[發明專利]權重精度配置方法、裝置、設備及存儲介質

有效

• 申請號: 202010664837.1
• 申請日: 2020-07-10
• 公開（公告）號: CN111831359B
• 公開（公告）日: 2023-06-23
• 發明（設計）人: 何偉;李涵;祝夭龍
• 申請（專利權）人: 北京靈汐科技有限公司
• 主分類號: G06F9/445
• 分類號: G06F9/445;G06N3/063;G06N3/0464;G06N3/08
• 代理公司: 北京天昊聯合知識產權代理有限公司 11112
• 代理人: 彭瑞欣;馮建基

1.一種權重精度配置方法，其特征在于，應用于人工智能芯片，所述人工智能芯片包括多個處理核，且部署有神經網絡，所述神經網絡的層與所述處理核之間具有一一映射關系，包括：

確定所述神經網絡中的當前目標層，其中，所述神經網絡中的所有層按照對應的權重參數數量進行排序，權重參數數量多的層優先被確定為目標層；

降低當前目標層對應的權重精度，并判斷所述神經網絡的當前識別率是否小于預設閾值，若小于，則將當前目標層對應的權重精度鎖定為本次降低前的權重精度；

在滿足目標層切換條件的情況下，重新確定當前目標層。

2.根據權利要求1所述的方法，其特征在于，在判斷所述神經網絡的當前識別率是否小于預設閾值之后，還包括：

若大于或等于，則繼續降低當前目標層對應的權重精度，并繼續判斷所述神經網絡的當前識別率是否小于所述預設閾值；

并且，所述目標層切換條件包括：所述神經網絡的當前識別率小于預設閾值；所述權重參數數量多的層優先被確定為目標層包括：在對應的權重精度未被鎖定的層中，權重參數數量多的層優先被確定為目標層。

3.根據權利要求1所述的方法，其特征在于，針對所述神經網絡中的所有層對應的權重精度進行多輪降低操作，每輪降低操作中，每層對應的權重精度被降低最多一次；

在判斷所述神經網絡的當前識別率是否小于預設閾值之后，還包括：

若大于或等于，則暫存降低后的權重精度；

并且，所述目標層切換條件包括：當前目標層對應的權重精度在本輪降低操作中已被降低一次。

4.根據權利要求1-3任一所述的方法，其特征在于，所述重新確定當前目標層，包括：

重新確定當前目標層，直到所有層對應的權重精度均被鎖定。

5.根據權利要求1-3任一所述的方法，其特征在于，在判斷所述神經網絡的當前識別率是否小于預設閾值之后，還包括：

若大于或等于，則訓練所述神經網絡以調節當前目標層的權重參數值，其中，訓練目標為提高所述神經網絡的識別率。

6.根據權利要求5所述的方法，其特征在于，所述訓練所述神經網絡包括在人工智能芯片上訓練所述神經網絡；

在訓練所述神經網絡的過程中，包括：

獲取所述神經網絡中的第一層的待輸出數據的精度，其中，所述第一層包括所述神經網絡中的最后一層之外的任意一層或多層；

獲取第二層的權重精度，其中，所述第二層為所述第一層的下一層；

根據所述第二層的權重精度對所述待輸出數據的精度進行配置。

7.根據權利要求1所述的方法，其特征在于，若存在權重參數數量相同的至少兩層，則按照與神經網絡的輸入層的距離大小對所述至少兩層進行排序，其中，距離越小，越優先被確定為目標層。

8.根據權利要求1所述的方法，其特征在于，在所述判斷所述神經網絡的當前識別率是否小于預設閾值之后，還包括：

若大于或等于，則將當前目標層對應的權重精度鎖定為降低后的權重精度。

9.一種權重精度配置裝置，其特征在于，應用于人工智能芯片，所述人工智能芯片包括多個處理核，且部署有神經網絡，所述神經網絡的層與所述處理核之間具有一一映射關系，包括：

目標層確定模塊，用于確定所述神經網絡中的當前目標層，其中，所述神經網絡中的所有層按照對應的權重參數數量進行排序，權重參數數量多的層優先被確定為目標層；

權重精度降低模塊，用于降低當前目標層對應的權重精度，并判斷所述神經網絡的當前識別率是否小于預設閾值，若小于，則將當前目標層對應的權重精度鎖定為本次降低前的權重精度；

目標層切換模塊，用于在滿足目標層切換條件的情況下，重新確定當前目標層。

10.一種計算機設備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，其特征在于，所述處理器執行所述計算機程序時實現如權利要求1-8任一項所述的方法。

11.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，該程序被處理器執行時實現如權利要求1-8任一項所述的方法。