[發(fā)明專利]特征提取模塊壓縮方法、圖像處理方法、裝置、介質

在審

• 申請?zhí)枺?/td>: 202011278495.6
• 申請日: 2020-11-16
• 公開（公告）號: CN112287950A
• 公開（公告）日: 2021-01-29
• 發(fā)明（設計）人: 羅壯;何云龍
• 申請（專利權）人: 北京沃東天駿信息技術有限公司;北京京東世紀貿易有限公司
• 主分類號: G06K9/46
• 分類號: G06K9/46;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京律智知識產權代理有限公司 11438
• 代理人: 王輝;闞梓瑄

本公開提供一種特征提取模塊壓縮方法、圖像處理方法、特征提取模塊壓縮裝置、圖像處理裝置、計算機可讀存儲介質與電子設備，涉及計算機技術領域。該方法包括：獲取待壓縮的特征提取模塊；從所述待壓縮的特征提取模塊中確定一個或多個待剪枝層數(shù)據(jù)；利用強化學習模型加載所述特征提取模塊，并在每個所述待剪枝層數(shù)據(jù)下，確定當前的剪枝狀態(tài)數(shù)據(jù)；基于所述剪枝狀態(tài)數(shù)據(jù)，確定每個所述待剪枝層數(shù)據(jù)的剪枝動作數(shù)據(jù)；根據(jù)每個所述待剪枝層數(shù)據(jù)的剪枝動作數(shù)據(jù)對所述待壓縮的特征提取模塊的數(shù)據(jù)進行剪枝，以得到數(shù)據(jù)壓縮后的特征提取模塊。本公開可以對特征提取模塊進行有效處理，降低其復雜度。

技術領域

本公開涉及計算機技術領域，尤其涉及一種特征提取模塊壓縮方法、圖像處理方法、特征提取模塊壓縮裝置、圖像處理裝置、計算機可讀存儲介質與電子設備。

背景技術

近年來，隨著人工智能的發(fā)展，各種特征提取模塊被應用到各個領域，例如神經網絡模型的普及。特別的，隨著問題復雜度和對準確率要求的不斷提高，特征提取模塊也逐漸復雜，如神經網絡模型的深度的增加。這對特征提取模塊的存儲、傳輸以及數(shù)據(jù)的處理效率帶來了極大的不變。因此，對特征提取模塊進行合理的壓縮處理，是很有必要的。

現(xiàn)有技術中，在進行模塊壓縮時通常依賴于工程師的歷史經驗，人為調整壓縮算法的參數(shù)。例如在對神經網絡進行壓縮時，工程師會通過其自身經驗或大量試驗，確定各個卷積層的通道裁剪比例，對神經網絡進行剪枝，以完成對其的壓縮處理。然而，該過程極大的依賴于人為操作過程，不但會花費較多的時間，還難以保證壓縮后特征提取模塊的精度，對特征提取模塊的處理效率造成了影響。

因此，如何在保證特征提取模塊精度的同時，對其進行快速、有效的壓縮是現(xiàn)有技術亟待解決的問題。

需要說明的是，在上述背景技術部分公開的信息僅用于加強對本公開的背景的理解，因此可以包括不構成對本領域普通技術人員已知的現(xiàn)有技術的信息。

發(fā)明內容

本公開提供了一種特征提取模塊壓縮方法、圖像處理方法、特征提取模塊壓縮裝置、圖像處理裝置、計算機可讀存儲介質與電子設備，進而至少在一定程度上克服現(xiàn)有技術模型數(shù)據(jù)處理效率低的問題。

本公開的其他特性和優(yōu)點將通過下面的詳細描述變得顯然，或部分地通過本公開的實踐而習得。

根據(jù)本公開的第一方面，提供一種特征提取模塊壓縮方法，包括獲取待壓縮的特征提取模塊；從所述待壓縮的特征提取模塊中確定一個或多個待剪枝層數(shù)據(jù)；利用強化學習模型加載所述特征提取模塊，并在每個所述待剪枝層數(shù)據(jù)下，確定當前的剪枝狀態(tài)數(shù)據(jù)；基于所述剪枝狀態(tài)數(shù)據(jù)，確定每個所述待剪枝層數(shù)據(jù)的剪枝動作數(shù)據(jù)；根據(jù)每個所述待剪枝層數(shù)據(jù)的剪枝動作數(shù)據(jù)對所述待壓縮的特征提取模塊的數(shù)據(jù)進行剪枝，以得到數(shù)據(jù)壓縮后的特征提取模塊。

在本公開的一種示例性實施例中，所述特征提取模塊為卷積神經網絡；所述從所述待壓縮的特征提取模塊中確定一個或多個待剪枝層數(shù)據(jù)，包括：將所述待壓縮的卷積神經網絡中的批歸一化層數(shù)據(jù)確定為待剪枝層數(shù)據(jù)。

在本公開的一種示例性實施例中，在利用強化學習模型加載所述特征提取模塊前，所述方法還包括：對所述批歸一化層數(shù)據(jù)的尺度系數(shù)進行正則化約束。

在本公開的一種示例性實施例中，所述利用強化學習模型加載所述特征提取模塊包括：利用初始的強化學習模型加載所述特征提取模塊；對于每個所述待剪枝層數(shù)據(jù)，通過以下步驟訓練強化學習模型：確定當前待剪枝層數(shù)據(jù)的剪枝狀態(tài)數(shù)據(jù)；通過所述強化學習模型輸出當前的剪枝狀態(tài)數(shù)據(jù)對應的當前的剪枝動作數(shù)據(jù)；計算當前的剪枝動作數(shù)據(jù)對應的獎勵值，根據(jù)所述獎勵值更新所述強化學習模型的參數(shù)；在完成訓練所述強化學習模型后，將所述特征提取模塊輸入所述強化學習模型，以輸出每個所述待剪枝層數(shù)據(jù)的剪枝動作數(shù)據(jù)。