[發明專利]深度學習計算方法、裝置、芯片及介質

有效

• 申請號: 202110710157.3
• 申請日: 2021-06-25
• 公開（公告）號: CN113326137B
• 公開（公告）日: 2022-07-12
• 發明（設計）人: 方智毅;丁圣閣;賈明橋;程偉;王皓;陶芝偉
• 申請（專利權）人: 上海燧原科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06N20/00
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 初春

1.一種深度學習計算方法，其特征在于，應用于芯片中，包括：

獲取初始計算圖；

根據所述初始計算圖生成重構計算圖；其中，所述重構計算圖中包括多個計算節點組，不同的計算節點組對應的執行設備為所述芯片內不同的計算集群；

通過所述芯片內的多個計算集群處理所述重構計算圖；

所述根據所述初始計算圖生成重構計算圖，包括：

在所述初始計算圖中確定數據輸入節點、計算節點組和可訓練變量節點；

調整與所述數據輸入節點對應的輸入子圖結構、與所述可訓練變量節點對應的變量子圖結構，將與所述計算節點組對應的計算子圖結構進行復制，并增加計算結果匯總子圖結構，得到所述重構計算圖；

其中，所述初始計算圖中的計算子圖結構以及復制得到的計算子圖結構所對應的執行設備分別為所述芯片內不同的計算集群。

2.根據權利要求1所述的方法，其特征在于，所述調整與所述可訓練變量節點對應的變量子圖結構，包括：

將所述變量子圖結構作為所述初始計算圖中的計算子圖結構以及復制得到的計算子圖結構的共享結構。

3.根據權利要求1所述的方法，其特征在于，所述調整與所述數據輸入節點對應的輸入子圖結構，包括：

根據所述數據輸入節點的節點類型，確定與所述數據輸入節點對應的目標子圖調整方式；

根據所述目標子圖調整方式，對所述輸入子圖結構中的取數據節點進行復制，得到與所述數據輸入節點對應的重構子圖結構；

其中，所述重構子圖結構中多個取數據節點分別取得的數據共同構成與所述數據輸入節點對應的緩存數據。

4.根據權利要求1所述的方法，其特征在于，所述增加計算結果匯總子圖結構，包括：

根據與生成所述初始計算圖的深度學習框架匹配的計算結果匯總標準子圖結構，增加所述計算結果匯總子圖結構。

5.根據權利要求1所述的方法，其特征在于，所述根據所述初始計算圖生成重構計算圖，還包括：

在所述初始計算圖中確定數據匯總輸出節點對應的輸出子圖結構；

根據目標需求調整或復制與所述數據匯總輸出節點對應的輸出子圖結構。

6.根據權利要求1-5任一項所述的方法，其特征在于，所述根據所述初始計算圖生成重構計算圖，包括：

如果所述初始計算圖和所述芯片的硬件結構符合片內分布式計算條件，則根據所述初始計算圖生成重構計算圖。

7.一種深度學習計算裝置，其特征在于，應用于芯片中，包括：

初始計算圖獲取模塊，用于獲取初始計算圖；

重構計算圖生成模塊，用于根據所述初始計算圖生成重構計算圖；其中，所述重構計算圖中包括多個計算節點組，不同的計算節點組對應的執行設備為所述芯片內不同的計算集群；

重構計算圖處理模塊，用于通過所述芯片內的多個計算集群處理所述重構計算圖；

所述重構計算圖生成模塊包括：節點類型劃分單元和計算圖重構單元；

其中，所述節點類型劃分單元，用于在所述初始計算圖中確定數據輸入節點、計算節點組和可訓練變量節點；

所述計算圖重構單元，用于調整與所述數據輸入節點對應的輸入子圖結構、與所述可訓練變量節點對應的變量子圖結構，將與所述計算節點組對應的計算子圖結構進行復制，并增加計算結果匯總子圖結構，得到所述重構計算圖；

其中，所述初始計算圖中的計算子圖結構以及復制得到的計算子圖結構所對應的執行設備分別為所述芯片內不同的計算集群。

8.一種芯片，其特征在于，所述芯片包括：

一個或多個處理器；

存儲器，用于存儲一個或多個程序，

當所述一個或多個程序被所述一個或多個處理器執行，使得所述一個或多個處理器實現如權利要求1-6中任一項所述的方法。

9.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，該程序被處理器執行時實現如權利要求1-6中任一項所述的方法。