[發明專利]一種用于人工智能的加速方法和裝置

有效

• 申請號: 201810553342.4
• 申請日: 2018-06-01
• 公開（公告）號: CN108717571B
• 公開（公告）日: 2020-09-15
• 發明（設計）人: 肖東晉;張立群
• 申請（專利權）人: 阿依瓦（北京）技術有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06T1/60
• 代理公司: 上海智晟知識產權代理事務所(特殊普通合伙) 31313
• 代理人: 張東梅

本發明公開了一種加速方法，包括：確定卷積計算的模板尺寸、圖像尺寸和模板個數M；基于圖像尺寸、模板尺寸、模板個數和/或加速裝置的計算能力確定加速鏈中卷積單元的個數N和數據循環的最短長度；將模板系數加載到加速鏈中的卷積單元；在FIFO緩存中加載多行圖像數據；啟動數據流，圖像數據從FIFO緩存進入第一卷積單元的圖像數據輸入端口，每次向第一卷積單元的圖像數據輸入端口提供一列數據，后一列圖像數據將前一列圖像數據向前推動一位，邊流動邊計算；將每次計算的結果存儲在結果存儲器的指定存儲位置。

技術領域

本發明涉及計算機領域，具體而言，本發明涉及一種用于人工智能的加速方法和裝置。

背景技術

卷積神經網絡(Convolutional Neural Network，CNN)是一種前饋神經網絡，與傳統的BP神經網絡相比，具有識別效率高、旋轉縮放不變性好等優點，已在數字圖像處理及人臉識別等領域得到了廣泛的應用。

傳統卷積神經網絡模型的應用原理為：首先，根據待輸入圖像的屬性設計卷積神經網絡模板架構，所設計的卷積神經網絡模板架構為多層結構，包括1 個輸入層，在輸入層之后，按各種順序排布有若干個卷積層和若干個降采樣層，最后為輸出層。其中，輸入層用于接收原始圖像；每個卷積層包括多個相同尺寸的特征圖，并且，每個特征圖的像素，對應于前一層指定的若干特征圖相應窗口位置的像素集合；每個降采樣層包括多個相同尺寸的特征圖，并且，降采樣層的每張特征圖，對應于前一層卷積層的一張特征圖，降采樣層的特征圖像素對應于前一層相應特征圖的采樣區域。某一層節點與前一層節點和后一層節點之間通過邊相互連接。

在搭建得到上述具有特定網絡架構的卷積神經網絡模板后，當需要識別某一圖片時，需要對上述的卷積神經網絡模板進行訓練，訓練過程為：初始化卷積神經網絡模板的參數為隨機值，包括：邊的權重值以及卷積核的值等；然后，將訓練樣本輸入卷積神經網絡模板，對卷積神經網絡模板反復“刺激”，不斷調整邊的權重值以及卷積核的值等，直到訓練得到可識別該圖片的卷積神經網絡模板。在后續應用中，只需要將待分析圖片或其他樣本輸入到訓練好的卷積神經網絡模板中，即可達到分類和智能識別的目的。

為了從復雜場景中分開并識別出每個物體，需要使用大量的模板對圖像進行遍歷卷積計算，其計算量大，計算時間長，通常這類計算通過專用加速單元完成。

在現有技術中，人工智能AI計算系統包括主處理器和加速器，AI加速器通常包括多達幾萬個乘法器，采用二維矩陣脈動加速原理。加速過程中計算數據的發送和搬運都需要主處理器來執行，因此需要花費大量的主處理器時間和等待時間。AI加速器空轉率比較高，即浪費率比較高，能效低；主處理器數據組織比較復雜，芯片設計比較困難，主要體現在全局時鐘方面。

因此，本領域需要一種新型的用于人工智能的加速方法和系統，至少部分地解決現有技術中存在的問題。

發明內容

針對現有技術中存在的問題，本發明提出了一種用于人工智能的加速裝置，包括：

模板存儲器，所述模板存儲器存儲待計算的模板系數；

輸入數據存儲器，所述輸入數據存儲器包括多個先進先出FIFO緩存，每個先進先出FIFO緩存存儲一行圖像數據；

加速鏈，所述加速鏈包括第一卷積單元至第N卷積單元，N為大于等于1 的整數，所述第一卷積單元至第N卷積單元中每一個均包括模板數據輸入端口、圖像數據輸入端口、第一圖像數據輸出端口以及卷積和輸出端口；每一個模板數據輸入端口與所述模板存儲器連接；第一卷積單元的圖像數據輸入端口連接到輸入數據存儲器；第一卷積單元的第一圖像數據輸出端口連接到第二卷積單元的圖像數據輸入端口；第二卷積單元的第一圖像數據輸出端口連接到第三卷積單元的圖像數據輸入端口；…第N-1卷積單元的第一圖像數據輸出端口連接到第N卷積單元的圖像數據輸入端口；第N卷積單元的第一圖像數據輸出端口連接到第一卷積單元的圖像數據輸入端口；第一卷積單元至第N卷積單元中每一個的卷積和輸出端口分別與結果存儲器相連；以及