[發(fā)明專利]基于LINUX系統(tǒng)的多GPU板卡bounding的系統(tǒng)、方法及介質(zhì)

有效

• 申請?zhí)枺?/td>: 202110821406.6
• 申請日: 2021-07-20
• 公開（公告）號: CN113268356B
• 公開（公告）日: 2021-10-29
• 發(fā)明（設(shè)計）人: 王世凱;陳偉;張凡路;蘭琦;馮立彬
• 申請（專利權(quán)）人: 西安芯瞳半導(dǎo)體技術(shù)有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06T1/20
• 代理公司: 西安維英格知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 61253
• 代理人: 李斌棟;沈寒酉

本發(fā)明公開了一種基于LINUX系統(tǒng)的多GPU板卡bounding的系統(tǒng)、方法及介質(zhì)；該系統(tǒng)包括：gbound內(nèi)核驅(qū)動和gbound_slave用戶工具；所述gbound內(nèi)核驅(qū)動，包括gbound模塊以及調(diào)度模塊；其中，gbound模塊，經(jīng)配置為基于用戶請求創(chuàng)建虛擬的GPU Master以及將待添加的GPU板卡添加至目標GPU Master所管理的GPU板卡列表中；調(diào)度模塊，經(jīng)配置為基于進程粒度為應(yīng)用程序的處理任務(wù)在目標GPU Master所管理的GPU板卡中分配目標GPU板卡；并通過gbound_slave用戶工具根據(jù)目標GPU Master所管理的GPU板卡列表向目標GPU板卡下發(fā)處理任務(wù)以執(zhí)行。

技術(shù)領(lǐng)域

本發(fā)明實施例涉及計算機硬件技術(shù)領(lǐng)域，尤其涉及一種基于LINUX系統(tǒng)的多GPU板卡綁定bounding的系統(tǒng)、方法及介質(zhì)。

背景技術(shù)

由于圖形處理器（GPU，Graphics Processing Unit）的超強計算能力，GPU在圖像視頻處理、物理、生物科學(xué)、化學(xué)、人工智能等需要高性能計算的領(lǐng)域發(fā)揮重要作用。當前，為了完成日益復(fù)雜的圖形圖像處理任務(wù)、通用計算任務(wù)和縮減計算時間，往往需要同時使用多GPU板卡進行計算。基于此，需要提供一種能夠?qū)Χ郍PU板卡進行管理以及資源分配的方案。

發(fā)明內(nèi)容

有鑒于此，本發(fā)明實施例期望提供一種基于LINUX系統(tǒng)的多GPU板卡 bounding 的系統(tǒng)、方法及介質(zhì)；能夠使用多GPU板卡并發(fā)處理任務(wù)的同時，可以靈活管理這些多GPU板卡以及資源，盡可能提高線程并發(fā)效率以及計算性能，實現(xiàn)高吞吐目的。

本發(fā)明實施例的技術(shù)方案是這樣實現(xiàn)的：

第一方面，本發(fā)明實施例提供了一種基于LINUX系統(tǒng)的多GPU板卡 bounding 的系統(tǒng)，所述系統(tǒng)包括：gbound內(nèi)核驅(qū)動和gbound_slave用戶工具；所述gbound內(nèi)核驅(qū)動，包括gbound模塊以及調(diào)度模塊；其中，所述gbound模塊，經(jīng)配置為基于用戶請求創(chuàng)建虛擬的GPUMaster以及將待添加的GPU板卡添加至目標GPU Master所管理的GPU板卡列表中；

所述調(diào)度模塊，經(jīng)配置為基于進程粒度為應(yīng)用程序的處理任務(wù)在所述目標GPUMaster所管理的GPU板卡中分配目標GPU板卡；并通過所述gbound_slave用戶工具根據(jù)所述目標GPU Master所管理的GPU板卡列表向所述目標GPU板卡下發(fā)處理任務(wù)以執(zhí)行。

第二方面，本發(fā)明實施例提供了一種基于LINUX系統(tǒng)的多GPU板卡 bounding 的方法，所述方法應(yīng)用于第一方面所述的基于LINUX系統(tǒng)的多GPU bounding 的系統(tǒng)，所述方法包括：

通過gbound模塊基于用戶請求創(chuàng)建虛擬的GPU Master以及將待添加的GPU板卡添加至目標GPU Master所管理的GPU板卡列表中；

通過調(diào)度模塊基于進程粒度為應(yīng)用程序的處理任務(wù)在目標GPU Master所管理的GPU板卡中分配目標GPU板卡；并通過所述gbound_slave用戶工具根據(jù)所述目標GPU Master所管理的GPU板卡列表向目標GPU板卡下發(fā)處理任務(wù)以執(zhí)行。

第三方面，本發(fā)明實施例提供了一種計算機存儲介質(zhì)，所述計算機存儲介質(zhì)存儲有基于LINUX系統(tǒng)的多GPU板卡 bounding 的程序，所述基于LINUX系統(tǒng)的多GPU板卡bounding程序被至少一個處理器執(zhí)行時實現(xiàn)第二方面中所述基于LINUX系統(tǒng)的多GPU板卡bounding方法步驟。