[發明專利]一種量化神經網絡矩陣的方法、設備、計算機產品及板卡

在審

• 申請號: 201911349745.8
• 申請日: 2019-12-24
• 公開（公告）號: CN113033787A
• 公開（公告）日: 2021-06-25
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 李波;孫新國

本發明涉及一種量化神經網絡矩陣的方法、設備、計算機產品及板卡，其中該設備包括處理器及存儲器，該處理器可以包括在組合處理裝置中，該組合處理裝置還可以包括通用互聯接口和其他處理裝置。該處理器與其他處理裝置進行交互，共同完成用戶指定的計算操作。該存儲器分別與該處理器和其他處理裝置連接，用于該處理器和其他處理裝置的數據存儲。

技術領域

本披露涉及信息處理技術領域，具體涉及一種量化神經網絡矩陣的方法、設備、計算機產品及板卡。

背景技術

神經網絡在人工智能領域有著廣泛的應用，其特點在于需要大量訓練的過程，在神經網絡的重復訓練過程中，為提高處理效率，一般會對神經元或權值矩陣進行量化，但量化的過程會降低神經網絡的精度水平，往往也無法降低數據存儲所占的內存空間或傳送帶寬。因此，如何獲得一種有效量化神經網絡矩陣的方案仍是現有技術中需要解決的問題。

發明內容

為了至少部分地解決背景技術中提到的技術問題，本披露的方案提供了一種量化神經網絡矩陣的方法、設備、計算機產品及板卡。

在一個方面中，本披露提供一種量化神經網絡矩陣的方法，包括以下步驟：壓縮所述神經網絡矩陣以產生頻域矩陣；掃描所述頻域矩陣以產生數組；降低排序在所述數組后段的數據精度；以及將降低精度后的數組還原成量化后矩陣。

在另一個方面中，本披露提供一種量化神經網絡矩陣的設備，包括：至少一個處理器及至少一個存儲器，存儲器存儲有計算機程序指令，當所述計算機程序指令由所述至少一個處理器執行時，使得所述設備得以執行前述的方法。

在另一個方面中，本披露提供一種計算機可讀存儲介質，其存儲用于電子數據交換的計算機程序，其中，所述計算機程序使得計算機執行如前所述的方法。

在另一個方面中，本披露提供一種計算機程序產品，所述計算機程序產品包括存儲了計算機程序的非瞬時性計算機可讀存儲介質，所述計算機程序可操作來使計算機執行如前所述的方法。

在另一個方面中，本披露提供一種集成電路芯片，包括前述的設備。

在另一個方面中，本披露提供一種板卡，包括前述的集成電路芯片。

利用本披露的方法、設備、計算機產品及板卡，在量化的過程可以有效的維持神經網絡的精度水平，同時降低數據存儲所占的內存空間或傳送帶寬。

附圖說明

通過參考附圖閱讀下文的詳細描述，本披露示例性實施方式的上述以及其他目的、特征和優點將變得易于理解。在附圖中，以示例性而非限制性的方式示出了本披露的若干實施方式，并且相同或對應的標號表示相同或對應的部分，其中：

圖1是示出根據本披露的卷積神經網絡的四層結構示意圖；

圖2是示出根據本披露實施例中量化神經網絡矩陣的方法的流程圖；

圖3是示出根據本披露實施例中掃描矩陣以產生數組的示意圖；

圖4是示出根據本披露實施例中降低數據精度的方法的流程圖；

圖5是示出根據本披露實施例中降低數據精度的另一個方法的流程圖；

圖6是示出根據本披露實施例的設備的結構圖；以及

圖7是示出根據本披露實施例的板卡的框架圖。

具體實施方式

本披露的技術方案在整體上提供一種量化神經網絡矩陣的方法、設備、計算機相關產品及板卡。不同于現有技術的量化方式，本披露提供了一種技術方案，在量化的過程可以有效地維持神經網絡的精度水平，同時降低數據存儲所占的內存空間或傳送帶寬。