[發明專利]一種卷積神經網絡加速裝置和方法

有效

• 申請號: 201810181302.1
• 申請日: 2018-03-06
• 公開（公告）號: CN108388537B
• 公開（公告）日: 2020-06-16
• 發明（設計）人: 劉明潤;陳亮;李曉鵬
• 申請（專利權）人: 上海熠知電子科技有限公司
• 主分類號: G06F15/78
• 分類號: G06F15/78;G06N3/063
• 代理公司: 上海智晟知識產權代理事務所(特殊普通合伙) 31313
• 代理人: 張東梅;李鏑的

1.一種輸入數據轉換裝置，包括：

調度單元，所述調度單元根據輸入數據的尺寸/維度及濾波器的尺寸/步長產生控制命令，控制數據搬移單元和行數據擴展單元的行為；

數據搬移單元，根據所述調度單元的命令，主動從系統存儲空間中讀取原始輸入數據；

行數據緩存單元，所述行數據緩存單元用于存儲讀入的原始輸入數據；以及

行數據擴展單元，所述行數據擴展單元每次從所述行數據緩存單元中讀出一行原始數據，然后按照濾波窗口的尺寸將行數據擴展為不同濾波窗口中的一行數據，

其中所述行數據擴展單元從行緩存單元讀入N行輸入數據中的第一行數據，并擴展出全部濾波器窗口的該行數據；所述行數據擴展單元再從行緩存單元讀入下一行數據，并擴展出全部濾波器窗口的該行數據；所述行數據擴展單元重復進行從行緩存單元讀入下一行數據，并擴展出全部濾波器窗口的該行數據，直至擴展完成濾波器窗口里的所有N行數據；

所述行數據緩存單元存儲讀入所述N行數據的下一行輸入數據替換所述N行輸入數據中的第一行數據，作為更新的N行輸入數據；

所述行數據擴展單元針對更新的N行輸入數據，僅讀入被替換的一行數據，并擴展出全部濾波器窗口的該行數據，并將其存儲在被替換前的該行數據所在的空間，擴展完成濾波器窗口里的更新的N行數據。

2.如權利要求1所述的輸入數據轉換裝置，其特征在于，還包括位寬轉換單元，所述位寬轉換單元將所述行數據擴展單元的擴展數據轉換為統一的位寬，并輸出到運算單元。

3.如權利要求1所述的輸入數據轉換裝置，其特征在于，所述行數據擴展單元是多路行數據擴展單元，多路行數據擴展單元同時擴展出多路濾波器窗口行數據。

4.如權利要求1所述的輸入數據轉換裝置，其特征在于，所述行數據緩存單元存儲濾波窗口所需要的N行輸入數據。

5.一種卷積神經網絡異構計算系統，包括：

主控單元，主控單元將需要加速器進行處理的原始數據存儲在系統存儲器中；

加速器，所述加速器包括如權利要求1-4中任一項所述的輸入數據轉換裝置以及運算單元。

6.一種卷積神經網絡異構計算方法，包括：

A)讀入濾波窗口所需要的N行輸入數據，并存入行數據緩存單元；

B)通過行數據擴展單元從行緩存單元讀入所述N行數據中的第一行數據，并擴展出全部濾波器窗口的該行數據；

C)通過行數據擴展單元從行緩存單元讀入下一行數據，并擴展出使用該行數據的全部濾波器窗口，重復步驟C)直至擴展完成濾波器窗口里的所有N行數據；

D)將所述N行數據的下一行輸入數據讀入行數據緩存單元并替換所述N行輸入數據中的第一行數據，作為更新的N行輸入數據；

E)針對更新的N行輸入數據，讀入被替換的一行數據，并擴展出全部濾波器窗口的該行數據，并將其存儲在被替換前的該行數據所在的空間，以便針對更新的N行輸入數據，擴展出濾波器窗口里的所有N行數據。

7.如權利要求6所述的方法，其特征在于，通過位寬轉換單元將濾波器窗口里的所有N行數據轉換成統一的位寬，并輸出至運算單元。

8.如權利要求6所述的方法，其特征在于，所述輸入數據具有多個維度，對于每一個維度，在步驟D)之前，重復步驟A)至步驟C)，并產生濾波窗口所需的數據。

9.如權利要求6所述的方法，其特征在于，重復步驟D)和步驟E)，以便擴展出輸入數據中所有行的濾波器窗口數據。

10.如權利要求6所述的方法，其特征在于，在步驟A)之前，在輸入數據的第一行之前補入一行或多行零，并在輸入數據的最后一行之后補入一行或多行零。