[發明專利]一種量化神經網絡矩陣的方法、設備、計算機產品及板卡

在審

• 申請號: 201911349745.8
• 申請日: 2019-12-24
• 公開（公告）號: CN113033787A
• 公開（公告）日: 2021-06-25
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 李波;孫新國

1.一種量化神經網絡矩陣的方法，包括以下步驟：

壓縮所述神經網絡矩陣以產生頻域矩陣；

掃描所述頻域矩陣以產生數組；

降低排序在所述數組后段的數據精度；以及

將降低精度后的數組還原成量化后矩陣。

2.根據權利要求1所述的方法，還包括以下步驟：

接收圖像信號；以及

轉換所述圖像信號為所述神經網絡矩陣。

3.根據權利要求1所述的方法，其中所述壓縮步驟是采用離散余弦變換。

4.根據權利要求1所述的方法，其中所述掃描步驟是將所述頻域矩陣的元素以Z字形方式截取排列。

5.根據權利要求1所述的方法，其中所述降低步驟包括以下步驟：

分割所述數組為N個區段，其中第一區段為所述數組最靠前的區段，第N區段為所述數組最靠后的區段；

維持所述第一區段的數據精度；以及

以降冪方式設定第二區段至第N區段的數據精度，其中N是大于或等于3的正整數。

6.根據權利要求5所述的方法，其中N為3。

7.根據權利要求6所述的方法，其中所述分割步驟包括以下步驟：

定義所述第一區段為所述數組的0-30％；

定義所述第二區段為所述數組的30％-50％；以及

定義所述第三區段為所述數組的50％-100％。

8.根據權利要求6或7所述的方法，其中所述第一區段的數據精度為單精度浮點數，所述設定步驟包括以下步驟：

設定所述第二區段的數據精度為半精度浮點數或八位定點數；以及

設定所述第三區段的數據精度為四位定點數或1比特。

9.根據權利要求5所述的方法，其中N為5。

10.根據權利要求9所述的方法，其中所述分割步驟包括以下步驟：

定義所述第一區段為所述數組的0-20％；

定義所述第二區段為所述數組的20％-40％；

定義所述第三區段為所述數組的40％-60％；

定義所述第四區段為所述數組的60％-80％；以及

定義所述第五區段為所述數組的80％-100％。

11.根據權利要求9或10所述的方法，其中所述第一區段的數據精度為單精度浮點數，所述設定步驟包括以下步驟：

設定所述第二區段的數據精度為半精度浮點數；

設定所述第三區段的數據精度為八位定點數；

設定所述第四區段的數據精度為四位定點數；以及

設定所述第五區段的數據精度為1比特。

12.一種量化神經網絡矩陣的設備，包括：

至少一個處理器；

至少一個存儲器，其存儲有計算機程序指令，當所述計算機程序指令由所述至少一個處理器執行時，使得所述設備執行根據權利要求1-11的任意一項所述的方法。

13.一種計算機可讀存儲介質，其特征在于，其存儲用于電子數據交換的計算機程序，其中，所述計算機程序使得計算機執行如權利要求1-11任一項所述的方法。

14.一種計算機程序產品，其特征在于，所述計算機程序產品包括存儲了計算機程序的非瞬時性計算機可讀存儲介質，所述計算機程序可操作來使計算機執行如權利要求1-11任一項所述的方法。

15.一種集成電路芯片，包括根據權利要求12所述的設備。

16.一種板卡，包括根據權利要求15所述的集成電路芯片。