[發(fā)明專(zhuān)利]一種快速開(kāi)發(fā)CUDA并行程序的方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201310725876.8
• 申請(qǐng)日: 2013-12-25
• 公開(kāi)（公告）號(hào): CN103729180A
• 公開(kāi)（公告）日: 2014-04-16
• 發(fā)明（設(shè)計(jì)）人: 張廣勇;盧曉偉;沈鉑;吳韶華;張清
• 申請(qǐng)（專(zhuān)利權(quán)）人: 浪潮電子信息產(chǎn)業(yè)股份有限公司
• 主分類(lèi)號(hào): G06F9/44
• 分類(lèi)號(hào): G06F9/44;G06F11/36
• 代理公司: 暫無(wú)信息
• 代理人: 暫無(wú)信息

1.一種快速開(kāi)發(fā)CUDA并行程序的方法，其特征在于其具體操作過(guò)程為：

步驟一、CPU串行程序修改，即按CUDA程序格式要求對(duì)CPU串行程序的分析和修改，其中

1.1）CPU串行程序分析具體包括：利用打印時(shí)間方式測(cè)試串行程序中的熱點(diǎn)模塊；根據(jù)算法特點(diǎn)和數(shù)據(jù)特點(diǎn)分析熱點(diǎn)模塊是否可以并行，是否可以采用CUDA細(xì)粒度并行；根據(jù)可并行的模塊，找到CUDA內(nèi)核將會(huì)使用到的數(shù)組，并對(duì)數(shù)組結(jié)構(gòu)進(jìn)行分析；

1.2）仿CUDA格式的CPU串行程序修改，具體包括：原程序算法修改，修改成可并行的代碼；數(shù)組修改，修改成適合CUDA并行程序格式的數(shù)組形式；

步驟二、CUDA并行程序移植，即設(shè)計(jì)CUDA并行程序把CPU程序移植到GPU平臺(tái)，以及CUDA并行程序的優(yōu)化，其中

2.1）設(shè)計(jì)CUDA并行程序具體包括：線程塊、網(wǎng)格的設(shè)計(jì)，用于數(shù)據(jù)的劃分和內(nèi)核的計(jì)算；通信函數(shù)的實(shí)現(xiàn)，用于進(jìn)行CPU與GPU之間的數(shù)據(jù)傳遞；內(nèi)核的設(shè)計(jì)，實(shí)現(xiàn)CUDA并行加速熱點(diǎn)模塊；

2.2）所述優(yōu)化CUDA并行程序，具體包括：將上述CUDA并行程序利用優(yōu)化技術(shù)進(jìn)一步提高并行程序的性能，主要優(yōu)化包括2個(gè)方面：通信優(yōu)化和內(nèi)核優(yōu)化。

2.根據(jù)權(quán)利要求1所述的一種快速開(kāi)發(fā)CUDA并行程序的方法，其特征在于：所述步驟1.1）的詳細(xì)過(guò)程為：

熱點(diǎn)測(cè)試是指根據(jù)時(shí)間的測(cè)試結(jié)果確定熱點(diǎn)函數(shù)，作為后面移植的重點(diǎn)代碼模塊；

找出熱點(diǎn)代碼后，需要分析熱點(diǎn)部分的算法、數(shù)據(jù)特點(diǎn)，根據(jù)算法和數(shù)據(jù)的特點(diǎn)分析其是否可以并行，是否可以采用CUDA細(xì)粒度并行，確定其并行性；

根據(jù)對(duì)串行程序的分析，確定哪些模塊需要移植到GPU平臺(tái)上運(yùn)行，對(duì)于需要運(yùn)行上GPU平臺(tái)上的代碼內(nèi)的數(shù)據(jù)進(jìn)行分析，確定數(shù)組在代碼中的什么位置傳遞到CUDA內(nèi)核中，傳遞的方向是CPUtoGPU還是GPUtoCPU，以及每次傳遞時(shí)的數(shù)據(jù)大小等信息。

3.根據(jù)權(quán)利要求1或2所述的一種快速開(kāi)發(fā)CUDA并行程序的方法，其特征在于：所述步驟1.2）的詳細(xì)過(guò)程為：

對(duì)于CPU串行程序，根據(jù)并行算法的要求修改原程序，改成可并行的模式；同時(shí)需要重新設(shè)計(jì)并行算法；

根據(jù)CUDA并行程序?qū)?shù)組格式的要求對(duì)串行程序中的數(shù)組進(jìn)行修改，進(jìn)而將對(duì)原CPU程序修改成一個(gè)仿CUDA格式的CPU串行程序。

4.根據(jù)權(quán)利要求3所述的一種快速開(kāi)發(fā)CUDA并行程序的方法，其特征在于：所述步驟2.1）的詳細(xì)過(guò)程為：

GPU數(shù)組設(shè)計(jì)、并行模型設(shè)計(jì)：設(shè)計(jì)GPU端數(shù)組，設(shè)計(jì)數(shù)組大小、類(lèi)型；設(shè)計(jì)CUDA程序的線程并行模型：block和grid；

根據(jù)對(duì)原程序數(shù)組的分析，把CPU串行程序移植到GPU平臺(tái)，根據(jù)熱點(diǎn)模塊的算法和代碼實(shí)現(xiàn)CUDA內(nèi)核代碼。

5.根據(jù)權(quán)利要求4所述的一種快速開(kāi)發(fā)CUDA并行程序的方法，其特征在于：所述步驟2.2）的詳細(xì)過(guò)程為：

CPU與GPU通信優(yōu)化，利用異步技術(shù)減少CPU和GPU之間通信的時(shí)間；CUDA內(nèi)核優(yōu)化，利用全局存儲(chǔ)器合并訪問(wèn)、共享存儲(chǔ)器、常量存儲(chǔ)器、紋理存儲(chǔ)器手段提高訪存速度，利用指令流提高計(jì)算手段優(yōu)化CUDA內(nèi)核。