[發明專利]壓縮神經網絡模型的方法、計算機系統以及存儲介質

在審

• 申請號: 202110183543.1
• 申請日: 2021-02-08
• 公開（公告）號: CN113286143A
• 公開（公告）日: 2021-08-20
• 發明（設計）人: 蔣薇;王煒;劉杉
• 申請（專利權）人: 騰訊美國有限責任公司
• 主分類號: H04N19/119
• 分類號: H04N19/119;H04N19/124;H04N19/96;G06N3/04;G06N3/08
• 代理公司: 北京德琦知識產權代理有限公司 11018
• 代理人: 徐文靜;陳世華

本公開提供一種壓縮神經網絡模型的方法、計算機系統以及存儲介質。所述方法包括：識別對應于多維張量的至少一個編碼樹單元，所述多維張量與神經網絡相關聯。統一與該編碼樹單元相關聯的權重系數集。根據統一的權重系數集來壓縮神經網絡的模型。

相關申請的交叉引用

本申請要求在美國專利商標局提交的第62/979,038號(于2020年2月20日提交)和第62/984,107號(于2020年3月2日提交)美國臨時專利申請以及在2020年11月3日提交的第17/088,075號美國專利申請的優先權，其全部內容通過引用結合于此。

技術領域

本公開總體上涉及數據處理領域，并且尤其涉及視頻編碼和解碼。

背景技術

國際標準化組織(International Organization for Standardization)ISO/國際電工委員會(International Electrotechnical Commission)IEC動態圖像專家組(Moving Picture Experts Group)MPEG(JTC 1/SC 29/WG 11)一直在積極尋找未來視頻編解碼技術的標準化的潛在需求，以進行視覺分析和理解。ISO于2015年采用視覺搜索緊湊描述符(Compact Descriptors for Visual Search,CDVS)標準作為靜止圖像標準，其提取特征表示(representation)用于圖像相似性匹配。視覺分析緊湊描述符(CompactDescriptors for Visual Analysis，CDVA)標準被列為MPEG 7和ISO/IEC 15938-15的第15部分，并且于2018年定稿，該標準提取了視頻片段的全局和局部、手動設計和基于深度神經網絡(Deep Neural Networks,DNN)的特征描述符。DNN在諸如語義分類、目標檢測/識別、目標跟蹤、視頻質量增強等大量視頻應用中的成功，提出了壓縮DNN模型的強烈需求。因此，MPEG正在積極致力于神經網絡標準(Neural Network standard，NNR)的編碼表示，該NNR的編碼表示對DNN模型進行編碼以節省存儲和計算。

發明內容

本公開實施例涉及壓縮神經網絡模型的方法、系統和計算機可讀存儲介質，可以壓縮神經網絡模型，并提高神經網絡模型的計算效率。

根據一個方面，提供一種壓縮神經網絡模型的方法。該方法可以包括識別對應于多維張量的至少一個編碼樹單元，所述多維張量與神經網絡相關聯。確定與該編碼樹單元相關聯的權重系數集。根據確定的權重系數集來壓縮神經網絡的模型。

根據另一個方面，提供一種壓縮神經網絡模型的計算機系統。該計算機系統可以包括識別模塊，用于識別對應于多維張量的至少一個編碼樹單元，所述多維張量與神經網絡相關聯。統一模塊，用于確定與該編碼樹單元相關聯的權重系數集。壓縮模塊，用于根據確定的權重系數集來壓縮神經網絡的模型。

根據又一個方面，提供一種用于壓縮神經網絡模型的計算機可讀介質。該計算機可讀介質可以包括至少一個計算機可讀存儲設備以及被存儲在至少一個有形存儲設備中的至少一個上的程序指令，該程序指令可由處理器執行。該程序指令可由處理器執行，用于執行一種方法，該方法可以相應地包括識別對應于多維張量的至少一個編碼樹單元，所述多維張量與神經網絡相關聯。確定與該編碼樹單元相關聯的權重系數集。根據該確定的權重系數集來壓縮神經網絡的模型。

通過本公開實施例提供的壓縮神經網絡模型的方法、系統和計算機可讀存儲介質，使用選擇性結構化統一方法來統一網絡權重系數，使得所學習的網絡權重系數保持原始性能，并且具有最優的期望統一結構，進而可以提高壓縮效率和計算速度。

附圖說明

這些和其它目的、特征和優點將從以下結合附圖閱讀的說明性實施例的詳細描述中變得顯而易見。由于附圖是用于方便本領域技術人員結合詳細描述進行清楚的理解，因此附圖的各種特征并非按比例繪制。在附圖中：