[發(fā)明專利]一種量化神經(jīng)網(wǎng)絡(luò)矩陣的方法、設(shè)備、計算機產(chǎn)品及板卡

在審

• 申請?zhí)枺?/td>: 201911349745.8
• 申請日: 2019-12-24
• 公開（公告）號: CN113033787A
• 公開（公告）日: 2021-06-25
• 發(fā)明（設(shè)計）人: 不公告發(fā)明人
• 申請（專利權(quán)）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04
• 代理公司: 北京維昊知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11804
• 代理人: 李波;孫新國

1.一種量化神經(jīng)網(wǎng)絡(luò)矩陣的方法，包括以下步驟：

壓縮所述神經(jīng)網(wǎng)絡(luò)矩陣以產(chǎn)生頻域矩陣；

掃描所述頻域矩陣以產(chǎn)生數(shù)組；

降低排序在所述數(shù)組后段的數(shù)據(jù)精度；以及

將降低精度后的數(shù)組還原成量化后矩陣。

2.根據(jù)權(quán)利要求1所述的方法，還包括以下步驟：

接收圖像信號；以及

轉(zhuǎn)換所述圖像信號為所述神經(jīng)網(wǎng)絡(luò)矩陣。

3.根據(jù)權(quán)利要求1所述的方法，其中所述壓縮步驟是采用離散余弦變換。

4.根據(jù)權(quán)利要求1所述的方法，其中所述掃描步驟是將所述頻域矩陣的元素以Z字形方式截取排列。

5.根據(jù)權(quán)利要求1所述的方法，其中所述降低步驟包括以下步驟：

分割所述數(shù)組為N個區(qū)段，其中第一區(qū)段為所述數(shù)組最靠前的區(qū)段，第N區(qū)段為所述數(shù)組最靠后的區(qū)段；

維持所述第一區(qū)段的數(shù)據(jù)精度；以及

以降冪方式設(shè)定第二區(qū)段至第N區(qū)段的數(shù)據(jù)精度，其中N是大于或等于3的正整數(shù)。

6.根據(jù)權(quán)利要求5所述的方法，其中N為3。

7.根據(jù)權(quán)利要求6所述的方法，其中所述分割步驟包括以下步驟：

定義所述第一區(qū)段為所述數(shù)組的0-30％；

定義所述第二區(qū)段為所述數(shù)組的30％-50％；以及

定義所述第三區(qū)段為所述數(shù)組的50％-100％。

8.根據(jù)權(quán)利要求6或7所述的方法，其中所述第一區(qū)段的數(shù)據(jù)精度為單精度浮點數(shù)，所述設(shè)定步驟包括以下步驟：

設(shè)定所述第二區(qū)段的數(shù)據(jù)精度為半精度浮點數(shù)或八位定點數(shù)；以及

設(shè)定所述第三區(qū)段的數(shù)據(jù)精度為四位定點數(shù)或1比特。

9.根據(jù)權(quán)利要求5所述的方法，其中N為5。

10.根據(jù)權(quán)利要求9所述的方法，其中所述分割步驟包括以下步驟：

定義所述第一區(qū)段為所述數(shù)組的0-20％；

定義所述第二區(qū)段為所述數(shù)組的20％-40％；

定義所述第三區(qū)段為所述數(shù)組的40％-60％；

定義所述第四區(qū)段為所述數(shù)組的60％-80％；以及

定義所述第五區(qū)段為所述數(shù)組的80％-100％。

11.根據(jù)權(quán)利要求9或10所述的方法，其中所述第一區(qū)段的數(shù)據(jù)精度為單精度浮點數(shù)，所述設(shè)定步驟包括以下步驟：

設(shè)定所述第二區(qū)段的數(shù)據(jù)精度為半精度浮點數(shù)；

設(shè)定所述第三區(qū)段的數(shù)據(jù)精度為八位定點數(shù)；

設(shè)定所述第四區(qū)段的數(shù)據(jù)精度為四位定點數(shù)；以及

設(shè)定所述第五區(qū)段的數(shù)據(jù)精度為1比特。

12.一種量化神經(jīng)網(wǎng)絡(luò)矩陣的設(shè)備，包括：

至少一個處理器；

至少一個存儲器，其存儲有計算機程序指令，當所述計算機程序指令由所述至少一個處理器執(zhí)行時，使得所述設(shè)備執(zhí)行根據(jù)權(quán)利要求1-11的任意一項所述的方法。

13.一種計算機可讀存儲介質(zhì)，其特征在于，其存儲用于電子數(shù)據(jù)交換的計算機程序，其中，所述計算機程序使得計算機執(zhí)行如權(quán)利要求1-11任一項所述的方法。

14.一種計算機程序產(chǎn)品，其特征在于，所述計算機程序產(chǎn)品包括存儲了計算機程序的非瞬時性計算機可讀存儲介質(zhì)，所述計算機程序可操作來使計算機執(zhí)行如權(quán)利要求1-11任一項所述的方法。

15.一種集成電路芯片，包括根據(jù)權(quán)利要求12所述的設(shè)備。

16.一種板卡，包括根據(jù)權(quán)利要求15所述的集成電路芯片。