[發(fā)明專利]計(jì)算神經(jīng)網(wǎng)絡(luò)的方法、裝置、板卡及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010246218.0
• 申請日: 2020-03-31
• 公開（公告）號: CN111461315A
• 公開（公告）日: 2020-07-28
• 發(fā)明（設(shè)計(jì)）人: 不公告發(fā)明人
• 申請（專利權(quán)）人: 中科寒武紀(jì)科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 北京維昊知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11804
• 代理人: 李波;孫新國

1.一種在人工神經(jīng)網(wǎng)絡(luò)計(jì)算中綁定多個(gè)常量數(shù)據(jù)的方法，包括：

重排序所述多個(gè)常量數(shù)據(jù)；

根據(jù)所述多個(gè)常量數(shù)據(jù)的數(shù)據(jù)量，計(jì)算同類數(shù)據(jù)段的段內(nèi)偏移量；

在數(shù)據(jù)包中回填所述段內(nèi)偏移量；以及

發(fā)送所述數(shù)據(jù)包至設(shè)備；

其中，所述設(shè)備讀取所述數(shù)據(jù)包里的所述多個(gè)常量數(shù)據(jù)，以執(zhí)行批量的人工神經(jīng)網(wǎng)絡(luò)計(jì)算。

2.根據(jù)權(quán)利要求1所述的方法，其中所述同類數(shù)據(jù)段包括常量數(shù)據(jù)段，所述重排序步驟包括：

遍歷計(jì)算模型中的全部數(shù)據(jù)節(jié)點(diǎn)，查找所述多個(gè)常量數(shù)據(jù)；以及

根據(jù)特定順序，組成所述常量數(shù)據(jù)段。

3.根據(jù)權(quán)利要求2所述的方法，其中所述特定順序?yàn)橄戎噶詈髷?shù)據(jù)。

4.根據(jù)權(quán)利要求2所述的方法，其中所述數(shù)據(jù)包包括常量數(shù)據(jù)標(biāo)簽，所述重排序步驟還包括：

記錄所述數(shù)據(jù)量；以及

根據(jù)所述數(shù)據(jù)量，計(jì)算所述多個(gè)常量數(shù)據(jù)的總數(shù)據(jù)量；

其中，所述常量數(shù)據(jù)標(biāo)簽記錄所述多個(gè)常量數(shù)據(jù)的總數(shù)量。

5.根據(jù)權(quán)利要求4所述的方法，其中所述計(jì)算步驟包括：

根據(jù)所述數(shù)據(jù)量，計(jì)算所述常量數(shù)據(jù)段的段內(nèi)偏移量。

6.根據(jù)權(quán)利要求5所述的方法，其中所述回填步驟包括：

根據(jù)所述常量數(shù)據(jù)段的段內(nèi)偏移量，將需要填入偏移量的指令位置記錄在所述常量數(shù)據(jù)段的各數(shù)據(jù)節(jié)點(diǎn)中。

7.根據(jù)權(quán)利要求1所述的方法，其中所述同類數(shù)據(jù)段包括隱藏層數(shù)據(jù)段所述數(shù)據(jù)包包括隱藏層數(shù)據(jù)標(biāo)簽，所有隱藏層數(shù)據(jù)節(jié)點(diǎn)所述重排序步驟還包括：

記錄每個(gè)隱藏層數(shù)據(jù)節(jié)點(diǎn)的數(shù)據(jù)量；以及

根據(jù)所述隱藏層數(shù)據(jù)節(jié)點(diǎn)的數(shù)據(jù)量，計(jì)算所有隱藏層數(shù)據(jù)節(jié)點(diǎn)的總數(shù)據(jù)量；

其中，所述隱藏層數(shù)據(jù)標(biāo)簽包括所述所有隱藏層數(shù)據(jù)節(jié)點(diǎn)的總數(shù)據(jù)量。

8.根據(jù)權(quán)利要求7所述的方法，其中所述計(jì)算步驟包括：

根據(jù)所述隱藏層數(shù)據(jù)節(jié)點(diǎn)的數(shù)據(jù)量，計(jì)算所述隱藏層數(shù)據(jù)段的段內(nèi)偏移量。

9.根據(jù)權(quán)利要求8所述的方法，其中所述回填步驟包括：

根據(jù)所述隱藏層數(shù)據(jù)段的段內(nèi)偏移量，將需要填入偏移量的指令位置記錄在所述隱藏層數(shù)據(jù)段的數(shù)據(jù)節(jié)點(diǎn)中。

10.根據(jù)權(quán)利要求1所述的方法，其中所述同類數(shù)據(jù)段包括輸出入地址段，所述數(shù)據(jù)包包括輸出入地址標(biāo)簽，所述重排序步驟還包括：

設(shè)定所有輸出入節(jié)點(diǎn)的數(shù)據(jù)量；以及

計(jì)算所述所有輸出入節(jié)點(diǎn)的總數(shù)據(jù)量；

其中，所述輸出入地址標(biāo)簽包括所述所有輸出入節(jié)點(diǎn)的總數(shù)據(jù)量。

11.根據(jù)權(quán)利要求10所述的方法，其中所述計(jì)算步驟包括：

根據(jù)所有輸出入節(jié)點(diǎn)的數(shù)據(jù)量，計(jì)算所述輸出入地址段的段內(nèi)偏移量。

12.根據(jù)權(quán)利要求11所述的方法，其中所述回填步驟包括：

根據(jù)所述輸出入地址段的段內(nèi)偏移量，將需要填入偏移量的指令位置記錄在所述輸出入地址段的各數(shù)據(jù)節(jié)點(diǎn)中。

13.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有在人工神經(jīng)網(wǎng)絡(luò)計(jì)算中綁定多個(gè)常量數(shù)據(jù)的計(jì)算機(jī)程序代碼，當(dāng)所述計(jì)算機(jī)程序代碼由處理器運(yùn)行時(shí)，執(zhí)行權(quán)利要求1-12的任意一項(xiàng)所述的方法。

14.一種在人工神經(jīng)網(wǎng)絡(luò)計(jì)算中組成數(shù)據(jù)包的方法，包括：

在所述數(shù)據(jù)包中建立標(biāo)簽區(qū)，所述標(biāo)簽區(qū)記錄所述數(shù)據(jù)包的總數(shù)據(jù)量；

在所述數(shù)據(jù)包中建立常量數(shù)據(jù)區(qū)，所述常量數(shù)據(jù)區(qū)記錄指令及多個(gè)常量數(shù)據(jù)；

其中，設(shè)備讀取所述數(shù)據(jù)包里的所述指令及常量數(shù)據(jù)，以執(zhí)行批量的人工神經(jīng)網(wǎng)絡(luò)計(jì)算。