[發明專利]一種數據處理的方法、系統、設備及可讀存儲介質

有效

• 申請號: 202010745395.3
• 申請日: 2020-07-29
• 公開（公告）號: CN111898751B
• 公開（公告）日: 2022-11-25
• 發明（設計）人: 梁玲燕;董剛;趙雅倩
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 王曉坤

1.一種數據處理的方法，其特征在于，包括：

根據獲取的網絡模型的結構信息將所述網絡模型的每一層標記為關鍵層或非關鍵層；

根據需要部署的硬件資源信息分別確定所述關鍵層的量化位寬范圍和所述非關鍵層的量化位寬范圍；

在所述量化位寬范圍內確定所述網絡模型每一層的最優量化位寬；

基于所述網絡模型每一層的最優量化位寬對所述網絡模型進行訓練得到最優網絡模型，并利用所述最優網絡模型進行數據處理；

在所述量化位寬范圍內確定所述網絡模型每一層的最優量化位寬，包括：

根據所述量化位寬范圍內量化位寬的數量確定所述網絡模型當前層的訓練分支的數量；

為所述網絡模型當前層的不同訓練分支中的權重設置不同的第一量化位寬，并為所述網絡模型當前層的不同訓練分支中的特征輸入設置不同的第二量化位寬；

根據所述第一量化位寬將所述權重映射為權重值，并根據所述第二量化位寬將所述特征輸入映射為特征輸入值；

令每一所述訓練分支中的所述權重值和所述特征輸入值進行卷積計算，并根據得到的卷積運算結果對所述訓練分支的重要度評估參數進行更新；

確定所述重要度評估參數最高的訓練分支的第一量化位寬和第二量化位寬為所述網絡模型當前層的最優量化位寬。

2.根據權利要求1所述的方法，其特征在于，根據獲取的網絡模型的結構信息將所述網絡模型的每一層標記為關鍵層或非關鍵層，包括：

根據所述網絡模型的結構信息確定初始網絡模型參數，并對所述網絡模型的每一層進行排序；

將所述網絡模型的第一層標記為所述關鍵層，并根據所述初始網絡模型參數計算所述網絡模型中當前層與上一層的特征圖之間的相似度；

若所述相似度小于閾值，則將所述當前層標記為所述關鍵層；

若所述相似度大于或等于所述閾值，則將所述當前層標記為所述非關鍵層。

3.根據權利要求1所述的方法，其特征在于，所述關鍵層的量化位寬范圍大于所述非關鍵層的量化位寬范圍。

4.根據權利要求1所述的方法，其特征在于，所述網絡模型包括圖像分類模型、圖像檢測模型、圖像識別模型、自然語言處理模型中的至少一項。

5.一種數據處理的系統，其特征在于，包括：

標記模塊，用于根據獲取的網絡模型的結構信息將所述網絡模型的每一層標記為關鍵層或非關鍵層；

第一確定模塊，用于根據需要部署的硬件資源信息分別確定所述關鍵層的量化位寬范圍和所述非關鍵層的量化位寬范圍；

第二確定模塊，用于在所述量化位寬范圍內確定所述網絡模型每一層的最優量化位寬；

數據處理模塊，用于基于所述網絡模型每一層的最優量化位寬對所述網絡模型進行訓練得到最優網絡模型，并利用所述最優網絡模型進行數據處理；

所述第二確定模塊包括：

第一確定子模塊，用于根據所述量化位寬范圍內量化位寬的數量確定所述網絡模型當前層的訓練分支的數量；

設置子模塊，用于為所述網絡模型當前層的不同訓練分支中的權重設置不同的第一量化位寬，并為所述網絡模型當前層的不同訓練分支中的特征輸入設置不同的第二量化位寬；

映射子模塊，用于根據所述第一量化位寬將所述權重映射為權重值，并根據所述第二量化位寬將所述特征輸入映射為特征輸入值；

更新子模塊，用于令每一所述訓練分支中的所述權重值和所述特征輸入值進行卷積計算，并根據得到的卷積運算結果對所述訓練分支的重要度評估參數進行更新；

第二確定子模塊，用于確定所述重要度評估參數最高的訓練分支的第一量化位寬和第二量化位寬為所述網絡模型當前層的最優量化位寬。