[發明專利]一種基于生成對抗網絡的量化模型訓練的方法及裝置

有效

• 申請號: 202011293572.5
• 申請日: 2020-11-18
• 公開（公告）號: CN112288032B
• 公開（公告）日: 2022-01-14
• 發明（設計）人: 康燕斌;張志齊
• 申請（專利權）人: 上海依圖網絡科技有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 北京同達信恒知識產權代理有限公司 11291
• 代理人: 朱佳

1.一種基于生成對抗網絡的量化模型訓練的方法，其特征在于，包括：

確定第一分類模型，第二分類模型以及第三分類模型，其中所述第二分類模型為所述第一分類模型經過量化后得到的模型，所述第三分類模型為與第一模型不同的模型；

基于包含有原始圖像信息和將原始圖像信息模擬量化后的圖像信息的樣本數據集合，采用循環迭代方式執行以下步驟，直到訓練完畢為止：

將樣本數據分別輸入所述第一分類模型和所述第二分類模型，得到相應的第一處理結果和第二處理結果；

將所述樣本數據、所述第一分類模型和所述第二分類模型在分類過程中使用的各個標簽、所述第一處理結果和所述第二處理結果，輸入所述第三分類模型，得到第三處理結果，所述第三處理結果表征所述第一處理結果是否由所述第一分類模型輸出，以及所述第二處理結果是否由所述第二分類模型輸出；

將第三處理結果與真實結果進行誤差比較，獲得相應的梯度，并采用所述梯度對第一分類模型，第二分類模型以及第三分類模型進行參數調整；輸出訓練完畢的第二分類模型。

2.如權利要求1所述的方法，其特征在于，確定第一分類模型，第二分類模型以及第三分類模型之前，進一步包括：

將訓練完成后的第一分類模型直接進行量化，將量化后的第一分類模型作為第二分類模型；

或者，

將帶有模擬量化的噪聲數據的樣本數據集合，送入所述第一分類模型進行訓練，輸出訓練完成后的第一分類模型，作為第二分類模型。

3.如權利要求1所述的方法，其特征在于，采用所述梯度對第一分類模型，第二分類模型以及第三分類模型進行參數調整，包括：

采用所述梯度，對所述第一分類模型以及所述第二分類模型分別進行參數調整，使得參數調整后的第一分類模型再次輸出的第一處理結果與參數調整后的第二分類模型再次輸出的第二處理結果趨于相同；

采用所述梯度，對所述第三分類模型進行參數調整，使得參數調整后的第三分類模型再次輸出的第三處理結果的判斷準確率提升。

4.如權利要求1所述的方法，其特征在于，輸出訓練完畢的第二分類模型，包括：

當所述第三分類模型不能正確區分所述第一處理結果和所述第二處理結果時，輸出訓練完畢的第二分類模型；

或者，

當所述第一處理結果和所述第二處理結果之間的誤差小于預設的誤差門限值時，輸出訓練完畢的第二分類模型。

5.一種基于生成對抗網絡的量化模型訓練的裝置，其特征在于，包括：

生成單元，用于確定第一分類模型，第二分類模型以及第三分類模型，其中所述第二分類模型為所述第一分類模型經過量化后得到的模型，所述第三分類模型為與第一模型不同的模型；

訓練單元，用于基于包含有原始圖像信息和將原始圖像信息模擬量化后的圖像信息的樣本數據集合，采用循環迭代方式執行以下步驟，直到訓練完畢為止：

將樣本數據分別輸入所述第一分類模型和所述第二分類模型，得到相應的第一處理結果和第二處理結果；

將所述樣本數據、所述第一分類模型和所述第二分類模型在分類過程中使用的各個標簽、所述第一處理結果和所述第二處理結果，輸入所述第三分類模型，得到第三處理結果，所述第三處理結果表征所述第一處理結果是否由所述第一分類模型輸出，以及所述第二處理結果是否由所述第二分類模型輸出；

將第三處理結果與真實結果進行誤差比較，獲得相應的梯度，并采用所述梯度對第一分類模型，第二分類模型以及第三分類模型進行參數調整；輸出單元，用于輸出訓練完畢的第二分類模型。

6.如權利要求5所述的裝置，其特征在于，確定第一分類模型，第二分類模型以及第三分類模型之前，生成單元進一步用于：

將訓練完成后的第一分類模型直接進行量化，將量化后的第一分類模型作為第二分類模型；

或者，

將帶有模擬量化的噪聲數據的樣本數據集合，送入所述第一分類模型進行訓練，輸出訓練完成后的第一分類模型，作為第二分類模型。