[發明專利]人工智能芯片以及用于人工智能芯片的指令執行方法

有效

• 申請號: 201810910206.6
• 申請日: 2018-08-10
• 公開（公告）號: CN110825514B
• 公開（公告）日: 2023-05-23
• 發明（設計）人: 徐寧儀;黃龑;韓金宸;吳鵬;施佳鑫
• 申請（專利權）人: 昆侖芯（北京）科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06N3/02
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 王達佐;馬曉亞

1.一種人工智能芯片，包括指令存儲器、數據存儲器、至少一個通用執行部件、至少一個專用執行部件和存儲有至少一個局部變量的值的局部控制存儲器；其中，專用執行部件包括專用于處理神經網絡模型中的計算密集型的計算任務的執行部件，包括以下至少一種：卷積引擎、單數據處理器、平面數據處理器、通道數據處理器、專用內存和數據重構引擎；

指令存儲器被配置成：接收中央處理單元發送的內核代碼，所述內核代碼包括至少一個代碼塊，所述至少一個代碼塊中的代碼塊與通用執行部件和專用執行部件相關聯；

通用執行部件被配置成：接收來自所述指令存儲器的代碼塊，鎖定與所接收的代碼塊相關聯的專用執行部件，以及將所接收的代碼塊中的指令發送到所鎖定的專用執行部件，其中，被鎖定的專用執行部件無法被其他通用執行部件調用；

專用執行部件被配置成：接收通用執行部件發送的指令，執行所接收的指令，以及將執行結果存儲在數據存儲器中；

數據存儲器被配置成存儲專用執行部件發送的執行結果；

局部控制存儲器被配置成：接收通用執行部件發送的局部變量更新請求，所述局部變量更新請求包括預定局部變量的目標值；將所述預定局部變量的值更新為所述目標值，向所述至少一個通用執行部件發送所述預定局部變量更新的通知；

等待所述預定局部變量更新的通用執行部件還被配置成響應于接收到所述通知，繼續執行所接收的代碼塊中的指令。

2.根據權利要求1所述的人工智能芯片，其中，所述至少一個代碼塊中的代碼塊包括第一指令和第二指令集合；以及

通用執行部件具體被配置成：

響應于接收到代碼塊，執行第一指令，以鎖定與所接收的代碼塊相關聯的專用執行部件；

將第二指令集合中的第二指令依次發送到所鎖定的專用執行部件。

3.根據權利要求1所述的人工智能芯片，其中，所述至少一個代碼塊中的代碼塊包括第一指令和第二指令集合；以及

通用執行部件具體被配置成：

響應于接收到代碼塊，執行第一指令，以鎖定與所接收的代碼塊相關聯的至少一個專用執行部件；

對于第二指令集合中的第二指令，從所鎖定的專用執行部件中確定執行該第二指令的專用執行部件，將該第二指令發送到所確定的專用執行部件。

4.根據權利要求1所述的人工智能芯片，其中，通用執行部件還被配置成：

以輪詢方式檢測目標局部變量的值是否更新；

響應于檢測到所述目標局部變量的值更新，繼續執行所接收的代碼塊中的指令。

5.根據權利要求1所述的人工智能芯片，其中，所述人工智能芯片還包括至少一個計算集群，所述至少一個計算集群中的計算集群包括數據存儲器、至少一個通用執行部件和至少一個專用執行部件。

6.根據權利要求5所述的人工智能芯片，其中，所述人工智能芯片還包括全局控制存儲器，計算集群還包括局部控制存儲器，所述全局控制存儲器存儲有至少一個全局變量的值，局部控制存儲器存儲有至少一個局部變量的值；以及

所述全局控制存儲器被配置成：

接收計算集群發送的全局變量更新請求，所述全局變量更新請求包括預定全局變量的目標值；

將所述預定全局變量的值更新為所述目標值。

7.根據權利要求6所述的人工智能芯片，其中，所述全局控制存儲器還被配置成向所述至少一個局部控制存儲器發送所述預定全局變量更新的通知；以及

等待所述預定全局變量更新的局部控制存儲器還被配置成響應于接收到所述通知，更新與所述預定全局變量關聯的局部變量的值。

8.根據權利要求6所述的人工智能芯片，其中，局部控制存儲器還被配置成：

以輪詢方式檢測目標全局變量的值是否更新；

響應于檢測到所述目標全局變量的值更新，更新與所述預定全局變量關聯的局部變量的值。

9.根據權利要求1所述的人工智能芯片，其中，在所述內核代碼被執行期間，被通用執行部件鎖定的專用執行部件不被解鎖。