[發明專利]用于處理神經網絡中的卷積運算的方法和裝置

在審

• 申請號: 201811297789.6
• 申請日: 2018-11-01
• 公開（公告）號: CN109871936A
• 公開（公告）日: 2019-06-11
• 發明（設計）人: 李世煥;金楠隼;宋準鎬;張準祐
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/06;G06N3/08
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 黃亮

提供了用于處理神經網絡中的卷積運算的方法和裝置，所述方法包括：根據要被執行卷積運算的輸入特征圖和核來確定運算數；向卷積運算器中的乘法器分派根據所確定的運算數來組合的運算數對；通過對乘法運算的結果執行加法和累加運算來生成輸出；以及基于所生成的輸出，獲得與所述卷積運算的結果相對應的輸出特征圖的像素值。

相關申請的交叉引用

本申請要求2017年12月5日在韓國知識產權局遞交的韓國專利申請No.10-2017-0166203的權益，其全部公開內容通過引用并入本文中以用于所有目的。

技術領域

以下說明涉及用于處理神經網絡中的特征圖與核之間的卷積運算的方法和裝置。

背景技術

在神經網絡技術中，正在積極地進行在各種類型的電子系統中使用神經網絡來分析輸入數據并提取有效信息的研究。處理神經網絡的裝置需要針對復雜輸入數據的大量運算。因此，需要用于高效處理神經網絡的運算的技術，以便使用神經網絡來實時分析大量輸入數據并提取所需信息。當對神經網絡進行訓練時，通過僅使用少量的比特可以保持均勻的準確度或者可以提高準確度，并且在運算期間由處理神經網絡的運算器使用的比特數可以進行各種改變。如果將這種神經網絡的特性和在神經網絡中執行的運算的并行性一起使用，則可以高效地處理神經網絡中的各種運算。

發明內容

提供了本發明內容以介紹對簡化形式的理念的選擇，其后在具體實施方式中進一步描述對該簡化形式的理念的選擇。本發明內容不意在標識所請求保護的主題的關鍵特征或必要特征，也不意在用作幫助確定所請求保護的主題的范圍。

在一個一般方案中，提供了一種處理神經網絡中的卷積運算的方法，所述方法包括：根據要被執行所述卷積運算的多個輸入特征圖和多個核來分別確定m個第一比特特征圖運算數和n個第二比特權重運算數，其中，m和n各自為自然數；向卷積運算器中的經分解的子乘法器分別分派根據所述第一比特特征圖運算數和所述第二比特權重運算數來組合的特征圖運算數和權重運算數的m×n個運算數對；通過對由所述經分解的子乘法器執行的乘法運算的結果執行加法和累加運算，生成m×n個輸出；以及基于所述m×n個輸出，獲得與所述卷積運算的結果相對應的輸出特征圖的像素值。

所述第一比特特征圖運算數和所述第二比特權重運算數可以是分別基于能夠被并行處理的所述多個輸入特征圖的像素值和所述多個核的權重來確定的。

所述第一比特特征圖運算數可以基于所述多個輸入特征圖中的一個輸入特征圖中的不同像素位置處的像素值。

所述第二比特權重運算數可以基于所述多個核中的不同核中的對應位置處的權重，其中，所述不同核可以引用所述一個輸入特征圖的輸入通道和不同輸出通道。

所述第二比特權重運算數可以基于所述多個核中的一個核中的不同位置處的權重，其中，所述一個核可以引用所述一個輸入特征圖的輸入通道和任意一個輸出通道。

所述第一比特特征圖運算數可以基于所述多個輸入特征圖中的不同輸入特征圖中的對應像素位置處的像素值，其中，所述不同輸入特征圖可以對應于不同輸入通道。

所述第二比特權重運算數可以基于所述多個核中的不同核中的對應位置處的權重，其中，所述不同核可以對應于所述不同輸入通道和任意一個輸出通道。

所述第二比特權重運算數可以基于所述多個核中的不同核中的對應位置處的權重，其中，所述不同核可以對應于所述不同輸入通道和不同輸出通道。

響應于卷積運算器包括具有k比特全精度的k比特乘法器，所述經分解的子乘法器可以與k比特乘法器的子邏輯分別相對應，所述第一比特和所述第二比特可以各自小于所述k比特，以及每個所述經分解的子乘法器可以與所述第一比特的乘法器或所述第二比特的乘法器相對應。