[發(fā)明專利]基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)計(jì)算方法及裝置、多核架構(gòu)芯片

在審

• 申請?zhí)枺?/td>: 202010195190.2
• 申請日: 2020-03-19
• 公開（公告）號: CN113495866A
• 公開（公告）日: 2021-10-12
• 發(fā)明（設(shè)計(jì)）人: 不公告發(fā)明人
• 申請（專利權(quán)）人: 北京希姆計(jì)算科技有限公司
• 主分類號: G06F15/16
• 分類號: G06F15/16;G06F1/3234;G06N3/04;G06N3/08
• 代理公司: 北京中知法苑知識產(chǎn)權(quán)代理有限公司 11226
• 代理人: 李明;趙吉陽

1.一種基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)計(jì)算方法，所述神經(jīng)網(wǎng)絡(luò)包括多個(gè)計(jì)算層，每個(gè)所述計(jì)算層對應(yīng)至少一個(gè)計(jì)算核，其特征在于，所述方法包括：

確定每個(gè)所述計(jì)算層的計(jì)算量；

根據(jù)每個(gè)所述計(jì)算層的計(jì)算量，劃分至少一個(gè)計(jì)算核組，所述計(jì)算核組包括位于至少兩個(gè)計(jì)算層的多個(gè)計(jì)算核；

重新分配所述至少兩個(gè)計(jì)算層的計(jì)算量，以使得所述至少兩個(gè)計(jì)算層中的所述多個(gè)計(jì)算核的計(jì)算量均衡；

由所述計(jì)算核組執(zhí)行對應(yīng)的所述計(jì)算層的計(jì)算。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述重新分配所述至少兩個(gè)計(jì)算層的計(jì)算量，包括：

將所述至少兩個(gè)計(jì)算層中的其中一個(gè)所述計(jì)算層的計(jì)算量拆分成與所述至少兩個(gè)計(jì)算層的層數(shù)相等份數(shù)的子計(jì)算量；

根據(jù)所述至少兩個(gè)計(jì)算層的計(jì)算量，將所述子計(jì)算量分別分配至所述至少兩個(gè)計(jì)算層中除所述其中一個(gè)所述計(jì)算層之外的所述計(jì)算層的所述計(jì)算核中。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述重新分配所述至少兩個(gè)計(jì)算層的計(jì)算量，包括：

將所述至少兩個(gè)計(jì)算層中的每個(gè)計(jì)算層的計(jì)算量平均拆分成與所述至少兩個(gè)計(jì)算層的層數(shù)相等份數(shù)的子計(jì)算量；

將所述子計(jì)算量分別分配至所述至少兩個(gè)計(jì)算層的所述計(jì)算核中。

4.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，其特征在于，所述計(jì)算量包括計(jì)算數(shù)據(jù)量和計(jì)算參數(shù)量，所述重新分配所述至少兩個(gè)計(jì)算層的計(jì)算量，包括：

重新分配所述至少兩個(gè)計(jì)算層中所述多個(gè)計(jì)算核的所述計(jì)算數(shù)據(jù)量和/或計(jì)算參數(shù)量。

5.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，其特征在于，不同所述計(jì)算核組對應(yīng)不同的所述計(jì)算層。

6.一種基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)計(jì)算裝置，所述神經(jīng)網(wǎng)絡(luò)包括多個(gè)計(jì)算層，每個(gè)所述計(jì)算層對應(yīng)至少一個(gè)計(jì)算核，其特征在于，所述裝置包括：

計(jì)算模塊，用于確定每個(gè)所述計(jì)算層的計(jì)算量；

劃分模塊，用于根據(jù)每個(gè)所述計(jì)算層的計(jì)算量，劃分至少一個(gè)計(jì)算核組，所述計(jì)算核組包括位于至少兩個(gè)計(jì)算層的多個(gè)計(jì)算核；

分配模塊，用于重新分配所述至少兩個(gè)計(jì)算層的計(jì)算量，以使得所述至少兩個(gè)計(jì)算層中的所述多個(gè)計(jì)算核的計(jì)算量均衡；

所述計(jì)算模塊，還用于由所述計(jì)算核組執(zhí)行對應(yīng)的所述計(jì)算層的計(jì)算。

7.根據(jù)權(quán)利要求6所述的裝置，其特征在于，所述重新分配所述至少兩個(gè)計(jì)算層的計(jì)算量，包括：

所述分配模塊，具體用于：

將所述至少兩個(gè)計(jì)算層中的其中一個(gè)所述計(jì)算層的計(jì)算量拆分成與所述至少兩個(gè)計(jì)算層的層數(shù)相等份數(shù)的子計(jì)算量；

根據(jù)所述至少兩個(gè)計(jì)算層的計(jì)算量，將所述子計(jì)算量分別分配至所述至少兩個(gè)計(jì)算層中除所述其中一個(gè)所述計(jì)算層之外的所述計(jì)算層的所述計(jì)算核中。

8.一種多核架構(gòu)芯片，包括多個(gè)計(jì)算核，其特征在于，所述芯片用于執(zhí)行權(quán)利要求1-5中任一項(xiàng)所述的方法。

9.一種電子設(shè)備，其特征在于，包括：

一個(gè)或多個(gè)處理器；

存儲單元，用于存儲一個(gè)或多個(gè)程序，當(dāng)所述一個(gè)或多個(gè)程序被所述一個(gè)或多個(gè)處理器執(zhí)行時(shí)，能使得所述一個(gè)或多個(gè)處理器實(shí)現(xiàn)根據(jù)權(quán)利要求1-5中任一項(xiàng)所述的方法。

10.一種計(jì)算機(jī)可讀存儲介質(zhì)，其上存儲有計(jì)算機(jī)程序，其特征在于，所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)能實(shí)現(xiàn)根據(jù)權(quán)利要求1-5中任一項(xiàng)所述的方法。