[發(fā)明專(zhuān)利]一種基于CUDA實(shí)現(xiàn)多任務(wù)共享GPU的方法

無(wú)效

• 申請(qǐng)?zhí)枺?/td>: 201210115719.0
• 申請(qǐng)日: 2012-04-19
• 公開(kāi)（公告）號(hào): CN102708009A
• 公開(kāi)（公告）日: 2012-10-03
• 發(fā)明（設(shè)計(jì)）人: 黃錕;陳一峯;蔣吳軍
• 申請(qǐng)（專(zhuān)利權(quán)）人: 華為技術(shù)有限公司;北京大學(xué)
• 主分類(lèi)號(hào): G06F9/50
• 分類(lèi)號(hào): G06F9/50
• 代理公司: 北京萬(wàn)象新悅知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11360
• 代理人: 蘇愛(ài)華

1.一種基于CUDA實(shí)現(xiàn)多任務(wù)共享GPU的方法，包括如下步驟：

1)在Global?Memory中建立映射表，確定合并后的Kernel中，每個(gè)Block執(zhí)行的任務(wù)編號(hào)和任務(wù)分塊編號(hào)；

2)一次用一個(gè)Kernel啟動(dòng)N個(gè)Block，N等于所有任務(wù)的任務(wù)分塊數(shù)目之和；

3)用標(biāo)記和阻塞等待的方法，滿(mǎn)足原有任務(wù)之間的約束關(guān)系；

4)對(duì)于Shared?Memory，采用預(yù)申請(qǐng)和靜態(tài)分配的方式進(jìn)行多任務(wù)共享。

2.如權(quán)利要求1所述的方法，其特征是，步驟1)的實(shí)現(xiàn)方法如下：

1.1)映射表要給出Block到任務(wù)和任務(wù)分塊的映射關(guān)系，即確定某個(gè)Block執(zhí)行哪個(gè)任務(wù)的哪個(gè)分塊；

1.2)任務(wù)在映射表中的排布要求滿(mǎn)足約束條件的拓?fù)漤樞颍喝绻蝿?wù)A依賴(lài)于任務(wù)B，那么，執(zhí)行任務(wù)A的所有Block的ID編號(hào)應(yīng)該大于所有執(zhí)行任務(wù)B的Block的ID編號(hào)；

1.3)在滿(mǎn)足步驟1.2)所述的約束條件的情況下，其他無(wú)約束關(guān)系任務(wù)在映射表中以任意的方式進(jìn)行排布。

3.如權(quán)利要求1所述的方法，其特征是，步驟2)的實(shí)現(xiàn)方法如下：

2.1)將原有的任務(wù)的grid維數(shù)轉(zhuǎn)換為一維；

2.2)若Block的維數(shù)不一致，則將之統(tǒng)一轉(zhuǎn)換為一維；若轉(zhuǎn)成一維之后Block的維度不一致，則統(tǒng)一選取一個(gè)最大的維度，讓其他較小的Block添加空線(xiàn)程補(bǔ)足，這樣所有的任務(wù)都采用了相同的Block維數(shù)和維度；

2.3)所有的Block在開(kāi)始執(zhí)行計(jì)算之前，首先從映射表中獲取該Block需要執(zhí)行的任務(wù)編號(hào)和任務(wù)分塊編號(hào)；

2.4)根據(jù)步驟2.3)中讀取的任務(wù)編號(hào)，選擇執(zhí)行不同的任務(wù)代碼；將步驟2.3)中讀取的任務(wù)分塊編號(hào)，使用到具體的任務(wù)計(jì)算中去。

4.如權(quán)利要求1所述的方法，其特征是，步驟3)的實(shí)現(xiàn)方法如下：

3.1)給每個(gè)任務(wù)設(shè)置標(biāo)志位mark，每個(gè)任務(wù)的每個(gè)任務(wù)分塊設(shè)置標(biāo)記數(shù)組tag[]，用以標(biāo)記任務(wù)和任務(wù)分塊的執(zhí)行情況；

3.2)對(duì)于任務(wù)的每一個(gè)任務(wù)分塊，在該任務(wù)分塊完成之后，將對(duì)應(yīng)的標(biāo)記位tag置位，表明該任務(wù)分塊已經(jīng)執(zhí)行結(jié)束；

3.3)用每個(gè)任務(wù)的最后一個(gè)Block，在計(jì)算返回前阻塞，循環(huán)檢查同一任務(wù)的其他任務(wù)分塊的對(duì)應(yīng)tag標(biāo)記位是否已經(jīng)被置位，一旦全部被置位，則對(duì)標(biāo)志位mark置位，表明該任務(wù)已經(jīng)結(jié)束；

3.4)如果任務(wù)A需要依賴(lài)于任務(wù)B，那么在任務(wù)A計(jì)算開(kāi)始之前阻塞，循環(huán)檢測(cè)B的任務(wù)標(biāo)志位mark，直到其置位。

5.如權(quán)利要求1所述的方法，其特征是，步驟4)的實(shí)現(xiàn)方法如下：

4.1)預(yù)先在Kernel開(kāi)始的時(shí)候，申請(qǐng)一個(gè)足夠大的Shared?Memory數(shù)組，其大小至少應(yīng)該等于每個(gè)任務(wù)所需要的Shared?Memory用量的最大值；

4.2)每個(gè)任務(wù)單獨(dú)寫(xiě)成一個(gè)函數(shù)，將Shared?Memory數(shù)組地址傳給這個(gè)函數(shù)，函數(shù)中需要使用Shared?Memory的時(shí)候，直接在這個(gè)數(shù)組中靜態(tài)分配使用。