[發明專利]以可變的擴張率在神經網絡中進行卷積的方法和系統

在審

• 申請號: 202010009066.2
• 申請日: 2020-01-03
• 公開（公告）號: CN111401512A
• 公開（公告）日: 2020-07-10
• 發明（設計）人: 迪內希·庫瑪·亞達夫;安庫爾·德希瓦爾;薩普塔爾斯·達斯;張準祐;李世煥
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G06N3/04
• 分類號: G06N3/04
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 倪斌

本發明涉及一種以可變擴張率在神經網絡中進行卷積的方法和系統。該方法包括接收第一內核的尺寸和擴張率。此外，基于第一內核的尺寸、存儲器的基線架構和擴張率，來確定一個或多個分解內核的尺寸中的至少一個。此外，基于擴張率以及與輸入圖像的尺寸和存儲器相關聯的一個或多個參數，確定輸入圖像的一個或多個塊的地址。此后，從存儲器中獲取輸入圖像的所述一個或多個塊以及所述一個或多個分解內核。最后，該方法包括基于所述一個或多個分解內核中的每一個與輸入圖像的所述一個或多個塊的卷積來獲得輸出圖像。

技術領域

本公開涉及空洞卷積(dilated convolution)。具體地但非排他地，本公開涉及以可變的擴張率(dilation rate)在神經網絡中執行卷積的方法和系統。

背景技術

通常，在深度學習神經網絡中使用空洞卷積技術來在輸入圖像或輸入視頻中執行場景分割和分子深度估計。與未擴張的卷積技術相比，空洞卷積提供了準確的結果。卷積技術涉及計算內核的一個或多個值與輸入圖像的一個或多個值之間的點積。點積是跨輸入圖像的寬度和高度計算的。在空洞卷積的情況下，通過在x方向和y方向上在內核的所述一個或多個值之間插入零來獲得擴張后的內核的一個或多個值。插入以獲得擴張后的內核的零的數目是基于擴張率的。擴張后的內核與輸入圖像的卷積包括輸入圖像的所述一個或多個值與擴張后的內核中的插入零的乘積。因此，消除輸入圖像的所述一個或多個值與擴張后的內核中的插入零的乘積減少了計算卷積的輸出所需的時間，并且結果是更快地處理了輸入圖像或輸入視頻。

現有技術將擴張后的內核分解成多個小內核，并將輸入圖像與所述多個小內核中的每一個小內核的卷積的輸出相加。現有技術的一個問題是所述多個小內核的尺寸是相同的，而與擴張率無關。現有技術的另一問題是隨著擴張率的增加，所述多個小內核的計數增加。

在本公開的背景技術中公開的信息僅用于增強對本發明的總體背景的理解，并且這不應被視為承認或以任何形式暗示該信息構成本領域技術人員已知的現有技術。

發明內容

通過本公開的技術實現了附加的特征和優點。本文中詳細描述了本公開的其他實施例和方面，并且將其視為所要求保護的公開的一部分。

本文公開了一種以可變擴張率在神經網絡中進行卷積的方法，該方法包括接收第一內核的尺寸和擴張率。此外，該方法包括基于第一內核的尺寸、與計算系統相關聯的存儲器的基線架構和擴張率中的至少一個，來確定一個或多個分解內核的尺寸。此外，該方法包括基于擴張率以及與輸入圖像的尺寸和存儲器相關聯的一個或多個參數，確定輸入圖像的與所述一個或多個分解內核中的每一個相對應的一個或多個塊的地址。此后，該方法包括基于該地址從存儲器獲取輸入圖像的所述一個或多個塊并獲取所述一個或多個分解內核。最后，該方法包括基于所述一個或多個分解內核中的每一個與輸入圖像的所述一個或多個塊的卷積來獲得輸出圖像。

本公開的實施例公開了一種以可變擴張率在神經網絡中執行卷積的計算系統，該計算系統包括處理器以及與處理器通信地耦接的存儲器，其中該存儲器存儲處理器可執行指令，該處理器可執行指令在執行時使處理器接收第一內核的尺寸和擴張率。此外，處理器被配置為基于第一內核的尺寸、關聯存儲器的基線架構和擴張率中的至少一個，來確定一個或多個分解內核的尺寸。此外，處理器被配置為基于擴張率以及與輸入圖像的尺寸和存儲器相關聯的一個或多個參數，確定輸入圖像的與所述一個或多個分解內核中的每一個相對應的一個或多個塊的地址。此后，處理器被配置為基于該地址從存儲器獲取輸入圖像的所述一個或多個塊并獲取所述一個或多個分解內核。最后，處理器被配置為基于所述一個或多個分解內核中的每一個與輸入圖像的所述一個或多個塊的卷積來獲得輸出圖像。

前述發明內容僅是說明性的，而無意于以任何方式進行限制。除了上述說明性方面、實施例和特征之外，其他方面、實施例和特征可以通過參考附圖和以下詳細描述而變得顯而易見。

附圖說明