[發明專利]圖像處理方法、裝置、設備

在審

• 申請號: 201811459626.3
• 申請日: 2018-11-30
• 公開（公告）號: CN111260052A
• 公開（公告）日: 2020-06-09
• 發明（設計）人: 竇則勝;李昊;朱勝火
• 申請（專利權）人: 阿里巴巴集團控股有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08
• 代理公司: 北京太合九思知識產權代理有限公司 11610
• 代理人: 孫明子

1.一種圖像處理方法，使用模型對圖像進行處理，所述模型通過如下步驟獲得：

獲取初始的模型；

確定所述模型對應的壓縮策略，所述壓縮策略中包括壓縮方法以及所述壓縮方法對應的目標壓縮率；

采用所述壓縮方法，按照逐步增加壓縮率的方式，迭代地對所述模型進行壓縮，直至滿足截止條件，所述截止條件包括所述模型被壓縮至所述目標壓縮率或者模型精度滿足設定條件。

2.根據權利要求1所述的方法，所述壓縮策略中包括多種壓縮方法以及所述多種壓縮方法各自對應的目標壓縮率。

3.根據權利要求2所述的方法，迭代地對所述模型進行壓縮的步驟，包括：

若采用第一壓縮方法將所述模型壓縮至第一壓縮率后，模型精度滿足設定條件，所述第一壓縮率低于所述第一壓縮方法對應的目標壓縮率，則降低所述第一壓縮方法對應的壓縮步長，或者，切換至采用第二壓縮方法對經所述第一壓縮率壓縮前的模型進行壓縮。

4.根據權利要求3所述的方法，所述方法還包括：

若采用所述第二壓縮方法將所述模型壓縮至第二壓縮率后，模型精度滿足設定條件，所述第二壓縮率低于或等于所述第二壓縮方法對應的目標壓縮率，則確定經所述第一壓縮率壓縮前的模型作為模型壓縮結果。

5.根據權利要求1所述的方法，所述壓縮方法為剪枝方法，所述迭代地對所述模型進行壓縮的步驟，包括：

確定所述模型在當前迭代過程中對應的損失函數；

根據所述損失函數確定所述模型的各權重分別對應的梯度值；

根據所述梯度值和所述當前迭代過程對應的壓縮率，選擇待剪枝的權重；

對所述待剪枝的權重進行剪枝。

6.根據權利要求5所述的方法，所述選擇待剪枝的權重的步驟，包括：

計算所述各權重分別對應的重要性得分，其中，任一權重對應的重要性得分是所述任一權重和所述任一權重對應的梯度值的加權和；

根據所述重要性得分對所述各權重進行排序；

根據所述壓縮率從所述各權重中選擇重要性得分較低的權重作為所述待剪枝的權重。

7.一種語音處理方法，使用模型對語音數據進行識別，所述模型通過如下步驟獲得：

獲取初始的模型；

確定所述模型對應的壓縮策略，所述壓縮策略中包括壓縮方法以及所述壓縮方法對應的目標壓縮率；

采用所述壓縮方法，按照逐步增加壓縮率的方式，迭代地對所述模型進行壓縮，直至滿足截止條件，所述截止條件包括所述模型被壓縮至所述目標壓縮率或者模型精度滿足設定條件。

8.一種自然語言處理方法，使用模型對自然語言信息進行處理，所述模型通過如下步驟獲得：

獲取初始的模型；

確定所述模型對應的壓縮策略，所述壓縮策略中包括壓縮方法以及所述壓縮方法對應的目標壓縮率；

采用所述壓縮方法，按照逐步增加壓縮率的方式，迭代地對所述模型進行壓縮，直至滿足截止條件，所述截止條件包括所述模型被壓縮至所述目標壓縮率或者模型精度滿足設定條件。

9.一種圖像處理方法，使用模型對圖像進行處理，所述模型通過如下步驟獲得：

確定初始的模型對應的損失函數；

根據所述損失函數確定所述模型的各權重分別對應的梯度值；

根據所述梯度值選擇待剪枝的權重；

對所述待剪枝的權重進行剪枝。

10.根據權利要求9所述的方法，所述根據所述梯度值選擇待剪枝的權重，包括：

根據所述梯度值和設定的壓縮率選擇所述待剪枝的權重。