[發(fā)明專利]圖像處理方法、裝置、設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 201811459626.3
• 申請(qǐng)日: 2018-11-30
• 公開（公告）號(hào): CN111260052A
• 公開（公告）日: 2020-06-09
• 發(fā)明（設(shè)計(jì)）人: 竇則勝;李昊;朱勝火
• 申請(qǐng)（專利權(quán)）人: 阿里巴巴集團(tuán)控股有限公司
• 主分類號(hào): G06N3/08
• 分類號(hào): G06N3/08
• 代理公司: 北京太合九思知識(shí)產(chǎn)權(quán)代理有限公司 11610
• 代理人: 孫明子

1.一種圖像處理方法，使用模型對(duì)圖像進(jìn)行處理，所述模型通過如下步驟獲得：

獲取初始的模型；

確定所述模型對(duì)應(yīng)的壓縮策略，所述壓縮策略中包括壓縮方法以及所述壓縮方法對(duì)應(yīng)的目標(biāo)壓縮率；

采用所述壓縮方法，按照逐步增加壓縮率的方式，迭代地對(duì)所述模型進(jìn)行壓縮，直至滿足截止條件，所述截止條件包括所述模型被壓縮至所述目標(biāo)壓縮率或者模型精度滿足設(shè)定條件。

2.根據(jù)權(quán)利要求1所述的方法，所述壓縮策略中包括多種壓縮方法以及所述多種壓縮方法各自對(duì)應(yīng)的目標(biāo)壓縮率。

3.根據(jù)權(quán)利要求2所述的方法，迭代地對(duì)所述模型進(jìn)行壓縮的步驟，包括：

若采用第一壓縮方法將所述模型壓縮至第一壓縮率后，模型精度滿足設(shè)定條件，所述第一壓縮率低于所述第一壓縮方法對(duì)應(yīng)的目標(biāo)壓縮率，則降低所述第一壓縮方法對(duì)應(yīng)的壓縮步長，或者，切換至采用第二壓縮方法對(duì)經(jīng)所述第一壓縮率壓縮前的模型進(jìn)行壓縮。

4.根據(jù)權(quán)利要求3所述的方法，所述方法還包括：

若采用所述第二壓縮方法將所述模型壓縮至第二壓縮率后，模型精度滿足設(shè)定條件，所述第二壓縮率低于或等于所述第二壓縮方法對(duì)應(yīng)的目標(biāo)壓縮率，則確定經(jīng)所述第一壓縮率壓縮前的模型作為模型壓縮結(jié)果。

5.根據(jù)權(quán)利要求1所述的方法，所述壓縮方法為剪枝方法，所述迭代地對(duì)所述模型進(jìn)行壓縮的步驟，包括：

確定所述模型在當(dāng)前迭代過程中對(duì)應(yīng)的損失函數(shù)；

根據(jù)所述損失函數(shù)確定所述模型的各權(quán)重分別對(duì)應(yīng)的梯度值；

根據(jù)所述梯度值和所述當(dāng)前迭代過程對(duì)應(yīng)的壓縮率，選擇待剪枝的權(quán)重；

對(duì)所述待剪枝的權(quán)重進(jìn)行剪枝。

6.根據(jù)權(quán)利要求5所述的方法，所述選擇待剪枝的權(quán)重的步驟，包括：

計(jì)算所述各權(quán)重分別對(duì)應(yīng)的重要性得分，其中，任一權(quán)重對(duì)應(yīng)的重要性得分是所述任一權(quán)重和所述任一權(quán)重對(duì)應(yīng)的梯度值的加權(quán)和；

根據(jù)所述重要性得分對(duì)所述各權(quán)重進(jìn)行排序；

根據(jù)所述壓縮率從所述各權(quán)重中選擇重要性得分較低的權(quán)重作為所述待剪枝的權(quán)重。

7.一種語音處理方法，使用模型對(duì)語音數(shù)據(jù)進(jìn)行識(shí)別，所述模型通過如下步驟獲得：

獲取初始的模型；

確定所述模型對(duì)應(yīng)的壓縮策略，所述壓縮策略中包括壓縮方法以及所述壓縮方法對(duì)應(yīng)的目標(biāo)壓縮率；

采用所述壓縮方法，按照逐步增加壓縮率的方式，迭代地對(duì)所述模型進(jìn)行壓縮，直至滿足截止條件，所述截止條件包括所述模型被壓縮至所述目標(biāo)壓縮率或者模型精度滿足設(shè)定條件。

8.一種自然語言處理方法，使用模型對(duì)自然語言信息進(jìn)行處理，所述模型通過如下步驟獲得：

獲取初始的模型；

確定所述模型對(duì)應(yīng)的壓縮策略，所述壓縮策略中包括壓縮方法以及所述壓縮方法對(duì)應(yīng)的目標(biāo)壓縮率；

采用所述壓縮方法，按照逐步增加壓縮率的方式，迭代地對(duì)所述模型進(jìn)行壓縮，直至滿足截止條件，所述截止條件包括所述模型被壓縮至所述目標(biāo)壓縮率或者模型精度滿足設(shè)定條件。

9.一種圖像處理方法，使用模型對(duì)圖像進(jìn)行處理，所述模型通過如下步驟獲得：

確定初始的模型對(duì)應(yīng)的損失函數(shù)；

根據(jù)所述損失函數(shù)確定所述模型的各權(quán)重分別對(duì)應(yīng)的梯度值；

根據(jù)所述梯度值選擇待剪枝的權(quán)重；

對(duì)所述待剪枝的權(quán)重進(jìn)行剪枝。

10.根據(jù)權(quán)利要求9所述的方法，所述根據(jù)所述梯度值選擇待剪枝的權(quán)重，包括：

根據(jù)所述梯度值和設(shè)定的壓縮率選擇所述待剪枝的權(quán)重。