[發明專利]計算圖的處理方法、裝置和系統

在審

• 申請號: 201911289404.6
• 申請日: 2019-12-13
• 公開（公告）號: CN112965710A
• 公開（公告）日: 2021-06-15
• 發明（設計）人: 龍國平;楊軍;林偉
• 申請（專利權）人: 阿里巴巴集團控股有限公司
• 主分類號: G06F8/34
• 分類號: G06F8/34;G06F8/41;G06N20/00
• 代理公司: 北京博浩百睿知識產權代理有限責任公司 11134
• 代理人: 謝湘寧

1.一種計算圖的處理方法，其特征在于，包括：

獲取計算圖對應的融合動作集合，其中，所述融合動作集合包括至少一個融合動作，任意一個所述融合動作用于表示所述計算圖中允許被融合的指令構成的指令對；

查找每個所述融合動作對應的融合空間，得到所述融合動作對應的融合方案，其中，所述融合空間包括允許與所述融合動作融合的其他融合動作；

從所述融合方案中選擇待選擇的融合方案，并根據所述待選擇的融合方案，確定融合計算圖。

2.根據權利要求1所述的方法，其特征在于，所述計算圖為張量計算圖，獲取計算圖對應的融合動作集合，包括：

將所述張量計算圖中的指令按照數據依賴關系進行拓撲排序；

從所述指令中的根指令開始逆序遍歷每個指令，并判斷所述指令是否允許被融合；

如果所述指令允許被融合，則將所述指令對應的融合動作加入所述融合動作集合。

3.根據權利要求2所述的方法，其特征在于，判斷所述指令是否允許被融合，包括：

獲取所述指令在所述張量計算圖中對應的輸入指令，其中，所述指令依賴所述輸入指令輸出的結果；

判斷所述指令與對應的所述輸入指令是否允許融合；

如果所述指令與對應的所述輸入指令允許融合，則將所述指令與對應的輸入指令構成一個融合動作，其中，所述指令對應的融合動作包括指令和對應的所述輸入指令構成的指令對。

4.根據權利要求3所述的方法，其特征在于，判斷所述指令與對應的所述輸入指令是否允許融合，包括：

如果所述指令與對應的輸入指令滿足如下任意一個條件，確定所述指令與對應的所述輸入指令允許融合：

所述指令與對應的所述輸入指令的指令類型兼容；

所述指令與對應的所述輸入指令之間的拓撲結構允許進行融合。

5.根據權利要求1所述的方法，其特征在于，查找每個所述融合動作對應的融合空間，得到所述融合動作對應的融合方案，包括：

獲取每組融合動作對應的收益信息，其中，所述收益信息用于表示所述融合動作所對應的代碼的代碼性能；

根據所述融合動作，確定所述融合動作對應的衍生融合動作集合，其中，所述衍生融合動作集合用于表示包含所述融合動作中的指令的其他融合動作。

6.根據權利要求5所述的方法，其特征在于，在獲取每組融合動作對應的收益信息之后，所述方法還包括：

根據所述融合動作對應的收益信息更新評估緩存，其中，所述評估緩存用于所有融合動作的收益信息。

7.根據權利要求5所述的方法，其特征在于，獲取每組融合動作對應的收益信息，包括：

執行與所述融合動作對應的代碼，并確定所述代碼的代碼性能為所述融合動作對應的收益信息；或

通過預設的代價模型預測所述融合動作對應的收益信息。

8.根據權利要求1所述的方法，其特征在于，所述待選擇的融合方案為最優融合方案，從所述融合方案中選擇待選擇的融合方案，包括：

確定用于選擇所述待選擇的融合方案的目標函數，其中，所述目標函數根據每個融合動作的收益信息構建；

獲取約束條件集合，其中，所述約束條件用于指融合動作之間需要滿足的約束條件；

根據所述約束條件對所述目標函數進行求解，得到所述待選擇的融合方案。

9.根據權利要求1所述的方法，其特征在于，所述計算圖為張量計算圖，根據所述待選擇的融合方案，確定融合計算圖，包括：

根據所述融合方案中的融合動作對所述張量計算圖進行修改，得到所述融合計算圖。