[發明專利]用于深度學習加速的算術單元

在審

• 申請號: 201910141007.8
• 申請日: 2019-02-25
• 公開（公告）號: CN110197253A
• 公開（公告）日: 2019-09-03
• 發明（設計）人: S·P·辛格;G·德索利;T·勃伊施
• 申請（專利權）人: 意法半導體國際有限公司;意法半導體股份有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 北京市金杜律師事務所 11256
• 代理人: 王茂華;董典紅

本申請涉及用于深度學習加速的算術單元。設備的實施例包括集成電路、形成在集成電路中的可重配置流開關以及耦合到可重配置流開關的算術單元。算術單元具有多個輸入和至少一個輸出，并且算術單元專用于多個并行運算的執行。多個并行運算中的每一個運算執行公式的一部分，所述公式為：輸出＝AX+BY+C。

技術領域

本公開一般涉及例如在卷積神經網絡(CNN)中支持和推進深度機器學習的結構。更具體地但非排他地，本公開涉及一種用于深度學習加速引擎的算術單元。

背景技術

已知的計算機視覺、語音識別和信號處理應用受益于學習機器的使用。本公開中討論的學習機器可以落入機器學習、人工智能、神經網絡、概率推理引擎、加速器等等的技術標題之下。這樣的機器被布置為快速執行數百、數千和數百萬的并發運算。常規學習機器可以提供數百個TeraFlop(即，每秒一萬億(10¹²)次浮點運算)的計算能力。

在某些情況下，學習機器被組織為深度卷積神經網絡(DCNN)。DCNN領域中的開創性工作是Y.LeCun等人的“Gradient-Based Learning Applied To DocumentRecognition”，IEEE會議錄，第86卷，第11號第2278-2324頁，1998年，該文獻導致以“AlexNet”贏得2012年ImageNet大規模視覺識別挑戰。如Krizhevsky，A.，Sutskever，I.和Hinton，G.的“ImageNet Classification With Deep Convolutional Neural Networks”，NIPS，第1-9頁，Lake Tahoe，NV(2012)中所述的那樣，AlexNet是一種首次大幅超越經典方法的DCNN。

DCNN是一種基于計算機的工具，其處理大量的數據并通過融合數據內的臨近相關的特征來自適應地“學習”，做出關于數據的廣泛預測，并基于可靠的結論和新的融合來完善預測。DCNN被布置在多個“層”中，并且在每一層處進行不同類型的預測。

例如，如果將多個面部二維圖片作為輸入提供給DCNN，則DCNN將學習面部的各種特性，諸如邊緣、曲線、角度、點、顏色對比度、亮點、黑點等。等等。在DCNN的一個或多個第一層處學習這些一個或多個特征。然后，在一個或多個第二層中，DCNN將學習諸如眼睛、眉毛、額頭、頭發、鼻子、嘴巴、臉頰等各種可識別的臉部特征；其中每一個都可以與所有其他特征區分開來。也就是說，DCNN學習識別并區分眼睛與眉毛或任何其他面部特征。在一個或多個第三層以及隨后的層中，DCNN學習整個面部和諸如種族、性別、年齡、情緒狀態等高階特性。在某些情況下甚至DCNN被教導來識別個人的特定身份。例如，可以將隨機圖像標識為臉部，并且可以將臉部識別為奧蘭多布魯姆、安德烈波切利或某個其他身份。

在其他示例中，可以為DCNN提供多個動物圖片，并且可以教導DCNN來標識獅子、老虎和熊；可以為DCNN提供多個汽車圖像，并且可以教導DCNN以標識和區分不同類型的車輛；并且還可以形成許多其他的DCNN。DCNN可以被用來學習句子中的單詞模式，以標識音樂、分析個體購物模式、玩視頻游戲、創建交通路線，并且DCNN也可以被用于許多其他基于學習的任務。

圖1A至圖1J可以被統稱為圖1。

圖1A是卷積神經網絡(CNN)系統10的簡化圖示。在CNN系統中，由CNN處理像素的二維陣列。CNN分析一個10×10輸入對象平面，以確定平面中是否表示“1”、平面中是否表示“0”、或者平面中是否既沒有實現“1”又沒有實現“0”。

在10×10輸入對象平面中，每個像素被照亮或不被照亮。為了圖示的簡單起見，被照亮的像素被填充(例如，深色)并且未被照亮的像素未被填充(例如，淺色)。

圖1B圖示出了圖1A的CNN系統10，其確定第一像素圖案圖示出了“1”并且第二像素圖案圖示出了“0”。然而，在現實世界中，圖像并不總是如圖1B中所圖示那樣整齊地對準。