[發(fā)明專利]運(yùn)算節(jié)點(diǎn)的拆分方法和裝置、電子設(shè)備和存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 201910750828.1
• 申請(qǐng)日: 2019-08-14
• 公開(kāi)（公告）號(hào): CN110503199A
• 公開(kāi)（公告）日: 2019-11-26
• 發(fā)明（設(shè)計(jì)）人: 不公告發(fā)明人
• 申請(qǐng)（專利權(quán)）人: 北京中科寒武紀(jì)科技有限公司
• 主分類號(hào): G06N3/08
• 分類號(hào): G06N3/08;G06N3/063
• 代理公司: 11446 北京律和信知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙)
• 代理人: 姚志遠(yuǎn);劉興<國(guó)際申請(qǐng)>=<國(guó)際公布>=

本申請(qǐng)?zhí)峁┝艘环N利用人工智能處理器執(zhí)行任務(wù)的方法和裝置、電子設(shè)備以及非瞬時(shí)性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)；其中，電子設(shè)備包括中央處理器、人工智能處理器和存儲(chǔ)器，人工智能處理器與中央處理器通信連接，并包括多個(gè)功能模塊；存儲(chǔ)器存儲(chǔ)有計(jì)算機(jī)程序，當(dāng)計(jì)算機(jī)程序被中央處理器執(zhí)行時(shí)，使得中央處理器執(zhí)行利用人工智能處理器執(zhí)行任務(wù)的方法。

技術(shù)領(lǐng)域

本申請(qǐng)涉及計(jì)算機(jī)領(lǐng)域，具體涉及一種對(duì)神經(jīng)網(wǎng)絡(luò)模型中的運(yùn)算節(jié)點(diǎn)進(jìn)行拆分的方法和裝置、電子設(shè)備和非瞬時(shí)性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。

背景技術(shù)

人工智能(Artificial Intelligence，縮寫(xiě)AI)是研究使計(jì)算機(jī)來(lái)模擬人的某些思維過(guò)程和智能行為(如學(xué)習(xí)、推理、思考、規(guī)劃等)的學(xué)科，主要包括計(jì)算機(jī)實(shí)現(xiàn)智能的原理、制造類似于人腦智能的計(jì)算機(jī)，使計(jì)算機(jī)能實(shí)現(xiàn)更高層次的應(yīng)用。

人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks，簡(jiǎn)寫(xiě)為ANNs)也簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)(NNs)，它是一種模仿動(dòng)物神經(jīng)網(wǎng)絡(luò)行為特征，進(jìn)行分布式并行信息處理的算法數(shù)學(xué)模型。這種網(wǎng)絡(luò)依靠系統(tǒng)的復(fù)雜程度，通過(guò)調(diào)整內(nèi)部大量節(jié)點(diǎn)之間相互連接的關(guān)系，從而達(dá)到處理信息的目的。

神經(jīng)網(wǎng)絡(luò)是當(dāng)前機(jī)器學(xué)習(xí)領(lǐng)域中非常流行的算法。近年來(lái)，隨著深度學(xué)習(xí)技術(shù)的快速發(fā)展，基于神經(jīng)網(wǎng)絡(luò)的模型和算法已經(jīng)在許多領(lǐng)域取得了突破。例如，在語(yǔ)音技術(shù)、人臉識(shí)別、自動(dòng)駕駛、機(jī)器翻譯等領(lǐng)域，基于深度神經(jīng)網(wǎng)絡(luò)的算法研究越來(lái)越深入。

發(fā)明內(nèi)容

基于此，本申請(qǐng)?zhí)峁┝艘环N對(duì)神經(jīng)網(wǎng)絡(luò)模型中的運(yùn)算節(jié)點(diǎn)進(jìn)行拆分的方法，包括：

確定神經(jīng)網(wǎng)絡(luò)模型中的關(guān)鍵路徑；

根據(jù)人工智能處理器中與不同類型相匹配的功能模塊的硬件并行度，將所述關(guān)鍵路徑中的至少一個(gè)神經(jīng)網(wǎng)絡(luò)運(yùn)算節(jié)點(diǎn)拆分為多個(gè)神經(jīng)網(wǎng)絡(luò)運(yùn)算子節(jié)點(diǎn)。

根據(jù)本申請(qǐng)的另一方面，提供了一種對(duì)神經(jīng)網(wǎng)絡(luò)模型中的運(yùn)算節(jié)點(diǎn)進(jìn)行拆分的裝置，包括：

確定單元，確定神經(jīng)網(wǎng)絡(luò)模型中的關(guān)鍵路徑；

拆分單元，根據(jù)人工智能處理器中與不同類型相匹配的功能模塊的硬件并行度，將所述關(guān)鍵路徑中的至少一個(gè)神經(jīng)網(wǎng)絡(luò)運(yùn)算節(jié)點(diǎn)拆分為多個(gè)神經(jīng)網(wǎng)絡(luò)運(yùn)算子節(jié)點(diǎn)。

根據(jù)本申請(qǐng)的另一方面，提供了一種電子設(shè)備，包括：

中央處理器；

人工智能處理器，與所述中央處理器通信連接，并包括多個(gè)功能模塊；

存儲(chǔ)器，存儲(chǔ)有計(jì)算機(jī)程序，當(dāng)所述計(jì)算機(jī)程序被所述中央處理器執(zhí)行時(shí)，使得所述中央處理器執(zhí)行如上所述的方法。

根據(jù)本申請(qǐng)的另一方面，提供了一種非瞬時(shí)性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)可讀指令，當(dāng)所述指令被處理器執(zhí)行時(shí)，使得所述處理器執(zhí)行如上所述的方法。

附圖說(shuō)明

為了更清楚地說(shuō)明本申請(qǐng)實(shí)施例中的技術(shù)方案，下面將對(duì)實(shí)施例描述中所需要使用的附圖作簡(jiǎn)單地介紹，顯而易見(jiàn)地，下面描述中的附圖僅僅是本申請(qǐng)的一些實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來(lái)講，在不付出創(chuàng)造性勞動(dòng)的前提下，還可以根據(jù)這些附圖獲得其他的附圖。

圖1示出了人工智能處理器的一個(gè)示例性模型；

圖2示出了神經(jīng)網(wǎng)絡(luò)模型示意圖；

圖3示出了根據(jù)本申請(qǐng)一個(gè)實(shí)施方式對(duì)神經(jīng)網(wǎng)絡(luò)模型中的運(yùn)算節(jié)點(diǎn)進(jìn)行拆分的方法的流程圖；

圖4示出了對(duì)神經(jīng)網(wǎng)絡(luò)運(yùn)算節(jié)點(diǎn)進(jìn)行拆分的示意圖；

圖5示例性地示出了對(duì)神經(jīng)網(wǎng)絡(luò)運(yùn)算操作不同的拆分方式；

圖6示出了根據(jù)本申請(qǐng)另一實(shí)施方式對(duì)神經(jīng)網(wǎng)絡(luò)模型中的運(yùn)算節(jié)點(diǎn)進(jìn)行拆分的方法的流程圖；