[發明專利]虛擬化環境下基于OpenMP的多GPU協同計算方法

在審

• 申請號: 201310695055.4
• 申請日: 2013-12-17
• 公開（公告）號: CN103713938A
• 公開（公告）日: 2014-04-09
• 發明（設計）人: 秦謙;袁家斌
• 申請（專利權）人: 江蘇名通信息科技有限公司
• 主分類號: G06F9/455
• 分類號: G06F9/455;G06F9/38
• 代理公司: 南京縱橫知識產權代理有限公司 32224
• 代理人: 董建林

1.虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于：包括以下步驟，?

步驟S01,?在服務端部署GPU虛擬化服務端組件，將在客戶端攔截的參數在本地執行，即在物理機上執行，物理機通過OpenMP在主機端開設和GPU個數相同的主機端線程，每個主機端線程負責控制一個GPU,?通過編程接口函數將主機端線程的ID號同GPU的設備號對應，將GPU計算的對象定義為N*N矩陣計算;

步驟S02，在每個設備上為每個線程分配顯存，并分別啟動內核函數；

步驟S03，數據分解,?每個線程設置自己私有主機端和設備的數據指針，私有主機端線程指向原始指針不同的起始位置,?并通過CUDA復制函數從自己私有主機端線程的位置拷貝N/n個數據達到規模劃分的目的,其中N為矩陣的行數，n為GPU的個數；

步驟S04，數據計算,根據矩陣相乘法則對n個GPU的矩陣進行計算，OpenMP控制所述GPU計算結果的輸出時間，同步輸出數據；

步驟S05，數據合并,?所述步驟S04中同步數據的數據通過GPU私有的設備端數據指針拷貝回私有主機端，在私有主機端進行數據合并，服務端完成計算后通過socket通信，將計算結果傳遞給客戶端。

2.根據權利要求1所述的虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于：所述步驟S03中GPU個數為4個，分別為GPU0、GPU1、GPU2和GPU3，所述矩陣為A、B、C和D，A*B+C*D數據分解包括以下步驟：

1）GPU?0執行矩陣A的一半乘以B，GPU?1執行矩陣A的另一半乘以B，GPU?2執行矩陣C的一半乘以D，GPU?3執行矩陣C的另一半乘以D；

2）OpenMP同步模塊等待GPU0、GPU1、GPU2和GPU3的相乘運算全部完成，將全部數據拷貝到GPU?0上，主機端校驗結果的正確性。

3.根據權利要求2所述的虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于：所述GPU1、GPU2和GPU3中的計算出的數據通過cudaMemcpy()函數拷貝到GPU?0。

4.根據權利要求1或者2所述的虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于：所述數據計算采用矩陣乘法計算，包括以下步驟：將A矩陣分為4個A/4（N/4*N），并分別與矩陣B相乘，分別得到4個AB/4矩陣，4個AB/4矩陣組合可以得到結果矩陣AB，以此方法分別計算GPU0、GPU1、GPU2和GPU3中矩陣相乘。

5.根據權利要求1所述的虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于，所述編程接口函數為cudaSetDevice(cpu_thread_id)函數。

6.根據權利要求1所述的虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于，所述步驟S04同步通過ccudaDeviceSynchronize()函數完成。

7.根據權利要求1所述的虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于，所述步驟CUDA復制函數為cudaMemcpy()函數。

8.根據權利要求1所述的虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于，所述客戶端為虛擬機。

9.根據權利要求1所述的虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于，所述顯存大小依據需要計算的數據大小分配。

10.根據權利要求1所述的虛擬化環境下基于OpenMP的多GPU協同計算方法，其特征在于，所述內核函數為用于計算矩陣相乘的內核函數。