[發(fā)明專利]一種模型剪枝方法、圖像處理方法及相關(guān)裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202211600306.1
• 申請(qǐng)日: 2022-12-13
• 公開(kāi)（公告）號(hào): CN116128044A
• 公開(kāi)（公告）日: 2023-05-16
• 發(fā)明（設(shè)計(jì)）人: 陸強(qiáng)
• 申請(qǐng)（專利權(quán)）人: 際絡(luò)科技（上海）有限公司
• 主分類號(hào): G06N3/082
• 分類號(hào): G06N3/082;G06V10/82
• 代理公司: 北京路浩知識(shí)產(chǎn)權(quán)代理有限公司 11002
• 代理人: 楊偉東

1.一種模型剪枝方法，其特征在于，包括：

獲取待剪枝模型以及其對(duì)應(yīng)的剪枝目標(biāo)，其中，所述待剪枝模型基于圖像數(shù)據(jù)訓(xùn)練得到；

根據(jù)所述剪枝目標(biāo)對(duì)所述待剪枝模型進(jìn)行預(yù)剪枝，以獲得目標(biāo)剪枝配置；

根據(jù)所述目標(biāo)剪枝配置以及所述剪枝目標(biāo)對(duì)所述待剪枝模型進(jìn)行一次剪枝，獲得目標(biāo)模型；

其中，所述根據(jù)所述剪枝目標(biāo)對(duì)所述待剪枝模型進(jìn)行預(yù)剪枝，以獲得目標(biāo)剪枝配置，包括：

根據(jù)所述剪枝目標(biāo)對(duì)所述待剪枝模型中每一網(wǎng)絡(luò)層的通道進(jìn)行均勻剪枝，獲得初始剪枝配置；

基于所述剪枝目標(biāo)以及所述初始剪枝配置，對(duì)所述待剪枝模型中所有網(wǎng)絡(luò)層的通道進(jìn)行迭代剪枝，獲得目標(biāo)剪枝配置。

2.根據(jù)權(quán)利要求1所述的模型剪枝方法，其特征在于，所述剪枝目標(biāo)為通道數(shù)剪枝比率；

所述根據(jù)所述剪枝目標(biāo)對(duì)所述待剪枝模型中每一網(wǎng)絡(luò)層的通道進(jìn)行均勻剪枝，獲得初始剪枝配置，包括：

獲取所述待剪枝模型中每一網(wǎng)絡(luò)層中各個(gè)通道的范數(shù)；

根據(jù)所述每一網(wǎng)絡(luò)層中各個(gè)通道的范數(shù)大小對(duì)每一網(wǎng)絡(luò)層的通道進(jìn)行排序，以獲得每一網(wǎng)絡(luò)層的通道序列；

根據(jù)初始目標(biāo)剪枝通道數(shù)從所述每一網(wǎng)絡(luò)層的通道序列中確定初始待剪枝通道；其中，所述初始目標(biāo)剪枝通道數(shù)根據(jù)所述通道數(shù)剪枝比率以及每一網(wǎng)絡(luò)層的通道總數(shù)量計(jì)算得到；

根據(jù)所述初始待剪枝通道以及其對(duì)應(yīng)的通道信息生成初始剪枝配置。

3.根據(jù)權(quán)利要求1所述的模型剪枝方法，其特征在于，所述剪枝目標(biāo)為通道數(shù)剪枝比率；

所述基于所述剪枝目標(biāo)以及所述初始剪枝配置，對(duì)所述待剪枝模型中所有網(wǎng)絡(luò)層的通道進(jìn)行迭代剪枝，獲得目標(biāo)剪枝配置，包括：

S1，獲取所述待剪枝模型中每一網(wǎng)絡(luò)層中各個(gè)通道的范數(shù)；

S2，按照所述各個(gè)通道的范數(shù)大小對(duì)所有通道進(jìn)行排序，以獲得與所述待剪枝模型對(duì)應(yīng)的通道序列；

S3，根據(jù)迭代目標(biāo)剪枝通道數(shù)從與所述待剪枝模型對(duì)應(yīng)的通道序列中確定迭代待剪枝通道；其中，所述迭代目標(biāo)剪枝通道數(shù)根據(jù)所述通道數(shù)剪枝比率以及所述待剪枝模型的通道總數(shù)量計(jì)算得到；

S4，根據(jù)所述迭代待剪枝通道及其對(duì)應(yīng)的通道信息對(duì)所述初始剪枝配置進(jìn)行更新，以獲得新的初始剪枝配置；

S5，利用訓(xùn)練圖像及其對(duì)應(yīng)的圖像標(biāo)簽對(duì)所述待剪枝模型中每一網(wǎng)路層各個(gè)通道的網(wǎng)絡(luò)參數(shù)進(jìn)行更新，以獲得更新后的網(wǎng)絡(luò)參數(shù)；

S6，基于所述更新后的網(wǎng)絡(luò)參數(shù)，重復(fù)執(zhí)行所述步驟S1-S6，直到達(dá)到預(yù)設(shè)的迭代次數(shù)，獲得最終的初始剪枝配置作為目標(biāo)剪枝配置。

4.根據(jù)權(quán)利要求1所述的模型剪枝方法，其特征在于，所述根據(jù)所述目標(biāo)剪枝配置以及所述剪枝目標(biāo)對(duì)所述待剪枝模型進(jìn)行一次剪枝，獲得目標(biāo)模型，包括：

根據(jù)所述目標(biāo)剪枝配置對(duì)所述待剪枝模型進(jìn)行一次剪枝，獲得剪枝后模型；

根據(jù)預(yù)設(shè)的微調(diào)訓(xùn)練次數(shù)對(duì)所述剪枝后模型進(jìn)行微調(diào)訓(xùn)練，獲得目標(biāo)模型。

5.根據(jù)權(quán)利要求3或4所述的模型剪枝方法，其特征在于，所述預(yù)設(shè)的迭代次數(shù)或所述預(yù)設(shè)的微調(diào)訓(xùn)練次數(shù)均根據(jù)待剪枝模型的剪枝訓(xùn)練參數(shù)確定；

其中，所述剪枝訓(xùn)練參數(shù)包括預(yù)剪枝迭代次數(shù)占比以及剪枝訓(xùn)練的總迭代次數(shù)；

所述預(yù)設(shè)的迭代次數(shù)為預(yù)剪枝迭代次數(shù)占比與剪枝訓(xùn)練的總迭代次數(shù)的乘積；

所述預(yù)設(shè)的微調(diào)訓(xùn)練次數(shù)為所述剪枝訓(xùn)練的總迭代次數(shù)與所述預(yù)設(shè)的迭代次數(shù)之間的差值。

6.一種圖像處理方法，其特征在于，包括：

獲取待處理圖像；

將所述待處理圖像輸入到訓(xùn)練好的圖像處理模型中，通過(guò)所述訓(xùn)練好的圖像處理模型對(duì)所述待處理圖像進(jìn)行處理，得到處理結(jié)果；其中，所述訓(xùn)練好的圖像處理模型為通過(guò)如權(quán)利要求1-5任一項(xiàng)所述的模型剪枝方法得到。