[發(fā)明專利]用于處理神經(jīng)網(wǎng)絡中的卷積運算的方法和裝置

在審

• 申請?zhí)枺?/td>: 201910653551.0
• 申請日: 2019-07-18
• 公開（公告）號: CN111382859A
• 公開（公告）日: 2020-07-07
• 發(fā)明（設計）人: 李世煥
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06K9/62
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 黃亮

提供了一種基于輸入特征圖的重用來執(zhí)行卷積核與輸入特征圖之間的卷積運算的方法、以及使用該方法的神經(jīng)網(wǎng)絡裝置。神經(jīng)網(wǎng)絡裝置生成卷積核的每個權重與輸入特征圖之間的運算的輸出值，并且通過在輸出特征圖中的基于卷積核中的權重的位置而設置的位置處累加輸出值來生成輸出特征圖。

相關申請的交叉引用

本申請要求于2018年12月27日向韓國知識產(chǎn)權局遞交的韓國專利申請No.10-2018-0171132的優(yōu)先權，其全部公開內(nèi)容通過引用并入本文中以用于所有目的。

技術領域

提供了用于處理神經(jīng)網(wǎng)絡中的卷積運算的方法和裝置。

背景技術

神經(jīng)網(wǎng)絡是專門的計算架構，其在經(jīng)過大量訓練后，可以在輸入模式和輸出模式之間提供計算直觀的映射。根據(jù)神經(jīng)網(wǎng)絡技術的最新發(fā)展，在各種類型的電子系統(tǒng)中使用神經(jīng)網(wǎng)絡裝置來分析輸入數(shù)據(jù)，并且提取有效信息。

神經(jīng)網(wǎng)絡裝置對輸入數(shù)據(jù)執(zhí)行大量運算。已經(jīng)對能夠有效處理神經(jīng)網(wǎng)絡運算的技術進行了研究。

發(fā)明內(nèi)容

提供了本發(fā)明內(nèi)容以用簡化形式來介紹下面在具體實施方式中進一步描述的理念的選擇。本發(fā)明內(nèi)容不旨在標識所請求保護的主題的關鍵特征或必要特征，也不旨在用作幫助確定所請求保護的主題的范圍。

在一個總體方面中，提供了神經(jīng)網(wǎng)絡裝置，包括：處理器，被配置為生成卷積核的每個權重與輸入特征圖之間的運算的輸出值，并且通過在輸出特征圖中的基于卷積核中的權重的位置而設置的位置處累加輸出值來生成輸出特征圖。

處理器可以被配置為：通過執(zhí)行輸入特征圖與卷積核的第一權重之間的運算來生成第一輸出值；在輸出特征圖中的基于卷積核中的第一權重的位置的第一位置處累加第一輸出值；通過執(zhí)行輸入特征圖與卷積核的第二權重之間的運算來生成第二輸出值；以及在輸出特征圖中的基于卷積核中的第二權重的位置的第二位置處累加第二輸出值。

處理器可以被配置為：通過執(zhí)行輸入特征圖的第一區(qū)域與卷積核的每個權重之間的運算來生成第一輸出值；通過在第一部分輸出特征圖中的基于卷積核中的相應權重的位置的位置處累加第一輸出值來生成第一部分輸出特征圖；以及在輸出特征圖上累加第一部分輸出特征圖。

處理器可以被配置為：通過執(zhí)行輸入特征圖中的第二區(qū)域與卷積核的每個權重之間的運算來生成第二輸出值，該第二區(qū)域不同于第一區(qū)域；通過在第二部分輸出特征圖中的基于卷積核中的相應權重的位置的位置處累加第二輸出值來生成第二部分輸出特征圖；以及在輸出特征圖上累加第二部分輸出特征圖。

第一區(qū)域可以包括輸入特征圖中的n個像素、n×m個像素或者n×m×l個像素中的至少一個，其中n、m和l是大于或等于1的自然數(shù)。

處理器可以被配置為：響應于卷積核的權重中的第一權重為零，跳過輸入特征圖與第一權重之間的運算。

處理器可以被配置為：通過從存儲器連續(xù)地流讀取經(jīng)壓縮的輸入特征圖，來執(zhí)行卷積核的每個權重與經(jīng)壓縮的輸入特征圖之間的運算。

處理器可以包括：運算單元，被配置為通過執(zhí)行輸入特征圖的區(qū)域之中的不同區(qū)域與卷積核之間的運算來生成部分輸出特征圖；以及輸出單元，被配置為通過累加部分輸出特征圖之中的一個或多個部分輸出特征圖來生成輸出特征圖的區(qū)域中的每一個區(qū)域。

運算單元中的一個或多個運算單元可以被配置為獨立于彼此并且彼此并行地執(zhí)行卷積核與不同區(qū)域之間的運算。

神經(jīng)網(wǎng)絡裝置可以包括總線，其中，輸出單元可以被配置為通過總線從運算單元接收一個或多個部分輸出特征圖。

運算單元中的每一個運算單元可以包括多個處理單元，處理單元被配置為通過執(zhí)行輸入特征圖的區(qū)域之中的區(qū)域與多個卷積核中的每一個卷積核之間的運算來生成部分輸出特征圖。