[發明專利]適用于類神經網絡模型的計算系統及實現類神經網絡模型的方法

在審

• 申請號: 202111345697.2
• 申請日: 2021-11-15
• 公開（公告）號: CN116151316A
• 公開（公告）日: 2023-05-23
• 發明（設計）人: 關天嬋;王圣誠;牛迪民;鄭宏忠
• 申請（專利權）人: 平頭哥(上海)半導體技術有限公司
• 主分類號: G06N3/0464
• 分類號: G06N3/0464;G06N3/063
• 代理公司: 北京威禾知識產權代理有限公司 11838
• 代理人: 王月玲

1.一種適用于類神經網絡模型的計算系統，特征在于，所述類神經網絡模型具有多層結構，且所述多層結構中第一層的輸出數據是用以作為第二層計算所需的數據，所述計算系統包括第一處理單元、第二處理單元及第三處理單元，所述計算系統用以配置所述第一處理單元、所述第二處理單元及所述第三處理單元以提升所述計算系統運行所述類神經網絡模型時的效能及硬件使用率中的至少一者，其中：

所述第一處理單元用以依據所述第一層的輸入數據的第一部分執行所述第一層的運算操作以產生所述輸出數據的第一部分；

所述第二處理單元用以依據所述第一層的所述輸入數據的第二部分執行所述第一層的運算操作以產生所述輸出數據的第二部分；及

所述第三處理單元用以依據所述輸出數據的所述第一部分及所述第二部分執行所述第二層的運算操作；

其中：

所述第一處理單元、所述第二處理單元及所述第三處理單元具有相同結構。

2.如權利要求1所述的計算系統，其中：

所述第一處理單元、所述第二處理單元及所述第三處理單元包括近內存計算處理器或存內計算處理器。

3.如權利要求1所述的計算系統，還包括主機處理單元，用以依據所述類神經網絡模型的輸入文件產生所述輸入數據的所述第一部分及所述第二部分。

4.如權利要求3所述的計算系統，其中：

所述類神經網絡模型是用以辨識圖像的卷積神經網絡模型，且所述輸入文件是所欲辨識的圖像；

所述主機處理單元是依據所述輸入文件產生所述輸入文件的特征圖；及

所述輸入數據的所述第一部分及所述第二部分是分別對應到所述特征圖的兩個相異區塊。

5.如權利要求1所述的計算系統，其中：

所述第一處理單元、所述第二處理單元及所述第三處理單元各包括多個接收模塊及多個傳送模塊；

所述第三處理單元的第一接收模塊是耦接于所述第一處理單元的一傳送模塊以接收對應于所述輸出數據的所述第一部分；及

所述第三處理單元的第二接收模塊是耦接于所述第二處理單元的一傳送模塊以接收所述輸出數據的所述第二部分。

6.如權利要求1所述的計算系統，其中：

所述第一處理單元、所述第二處理單元及所述第三處理單元各包括接收模塊、傳送模塊及多路復用器；及

所述第三處理單元的多路復用器耦接于所述第一處理單元的傳送模塊及所述第二處理單元的傳送模塊，用以在第一時段中將所述輸出數據的所述第一部分傳送至所述第三處理單元的接收模塊，及在與所述第一時段相異的第二時段中將所述輸出數據的所述第二部分傳送至所述第三處理單元的所述接收模塊。

7.如權利要求1所述的計算系統，還包括網狀連接器，耦接于所述第一處理單元、所述第二處理單元及所述第三處理單元，用以排置及建立所述第一處理單元、所述第二處理單元及所述第三處理單元之間的電性連接。

8.一種實現類神經網絡模型的方法，其特征在于，所述類神經網絡模型具有多層結構，且所述多層結構中第一層的輸出數據是用以作為第二層計算所需的數據，所述方法包括：

在初始模擬程序中，依據初始配置來排置多個處理單元以運行所述類神經網絡模型，其中在所述初始配置的所述多個處理單元中，每一處理單元是單獨執行所述類神經網絡模型中至少一對應層的計算；

紀錄在所述初始模擬程序中每一處理單元的計算延遲時間；

依據至少在所述初始模擬程序中每一處理單元的所述計算延遲時間，決定第一優化配置中所述類神經網絡模型中每一層所使用的處理單元數量以提升運行所述類神經網絡模型時的效能及硬件使用率中的至少一者；及

在第一優化模擬程序中，排置所述第一優化配置中的多個處理單元以運行所述類神經網絡模型。