[發明專利]一種人工智能加速器以及計算機設備

在審

• 申請號: 202011096225.3
• 申請日: 2020-10-14
• 公開（公告）號: CN112231270A
• 公開（公告）日: 2021-01-15
• 發明（設計）人: 楊繼林;景璐;賈兆榮
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F15/173
• 分類號: G06F15/173;G06N20/00;G06N5/04
• 代理公司: 北京連和連知識產權代理有限公司 11278
• 代理人: 宋薇薇;張濤

1.一種人工智能加速器，其特征在于，包括：

主機接口，配置用于連接主機；

第一AI處理引擎，包括第一運算單元和第一數據存儲單元；

第二AI處理引擎，包括第二運算單元和第二數據存儲單元；以及

片上接口，配置用于連接片上互聯網絡；

其中，所述第一和第二AI處理引擎分別與所述主機接口和所述片上接口相連，所述第一運算單元和所述第二運算單元之間單向連接，所述第一數據存儲單元和所述第二數據存儲單元之間雙向連接。

2.根據權利要求1所述的人工智能加速器，其特征在于，所述第一運算單元和所述第二運算單元之間單向連接包括：

所述第一運算單元輸出處理結果，并將所述處理結果作為輸入數據發送至所述第二運算單元。

3.根據權利要求2所述的人工智能加速器，其特征在于，還包括：

第三AI處理引擎，包括第三運算單元和第三數據存儲單元；

第四AI處理引擎，包括第四運算單元和第四數據存儲單元，

其中第一、第二和第三運算單元各自輸出處理結果，并將所述處理結果作為輸入數據發送至順序的下一運算單元。

4.根據權利要求1所述的人工智能加速器，其特征在于，每個所述數據存儲單元包括私有存儲空間和共享存儲空間，所述私有存儲空間配置為AI處理引擎自身的緩存，所述共享存儲空間配置用于供其他AI處理引擎的訪問。

5.根據權利要求1所述的人工智能加速器，其特征在于，還包括：

HBM顯存，配置用于滿足云端芯片對存儲帶寬的需求，所述HBM顯存與所述片上接口相連。

6.根據權利要求1或3所述的人工智能加速器，其特征在于，每個所述AI處理引擎配置用于處理網絡中的一層，并將輸出的結果作為輸入數據發送至處理下一層網絡的AI處理引擎。

7.根據權利要求1所述的人工智能加速器，其特征在于，還包括若干其他AI處理引擎，其中，每個所述AI處理引擎配置用于處理網絡中的若干不相鄰層，并將輸出的結果作為輸入數據發送至處理下一層網絡的AI處理引擎。

8.根據權利要求1或3所述的人工智能加速器，其特征在于，每個所述AI處理引擎配置用于處理部分子圖像，并將輸出的結果作為輸入數據發送至下一AI處理引擎，以對所述輸出的結果進行組合。

9.根據權利要求1所述的人工智能加速器，其特征在于，所述結構部署于端側、邊緣側或云計算中心。

10.一種計算機設備，其特征在于，包括1-8任意一項所述的人工智能加速器。