[發(fā)明專利]計算圖的處理方法、裝置和系統(tǒng)在審
| 申請?zhí)枺?/td> | 201911289404.6 | 申請日： | 2019-12-13 |
| 公開（公告）號： | CN112965710A | 公開（公告）日： | 2021-06-15 |
| 發(fā)明（設(shè)計）人： | 龍國平;楊軍;林偉 | 申請（專利權(quán)）人： | 阿里巴巴集團控股有限公司 |
| 主分類號： | G06F8/34 | 分類號： | G06F8/34;G06F8/41;G06N20/00 |
| 代理公司： | 北京博浩百睿知識產(chǎn)權(quán)代理有限責(zé)任公司 11134 | 代理人： | 謝湘寧 |
| 地址： | 英屬開曼群島大開*** | 國省代碼： | 暫無信息 |
| 權(quán)利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關(guān)鍵詞： | 計算 處理 方法 裝置 系統(tǒng) | ||
1.一種計算圖的處理方法，其特征在于，包括：
獲取計算圖對應(yīng)的融合動作集合，其中，所述融合動作集合包括至少一個融合動作，任意一個所述融合動作用于表示所述計算圖中允許被融合的指令構(gòu)成的指令對；
查找每個所述融合動作對應(yīng)的融合空間，得到所述融合動作對應(yīng)的融合方案，其中，所述融合空間包括允許與所述融合動作融合的其他融合動作；
從所述融合方案中選擇待選擇的融合方案，并根據(jù)所述待選擇的融合方案，確定融合計算圖。
2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述計算圖為張量計算圖，獲取計算圖對應(yīng)的融合動作集合，包括：
將所述張量計算圖中的指令按照數(shù)據(jù)依賴關(guān)系進行拓?fù)渑判颍?/p>
從所述指令中的根指令開始逆序遍歷每個指令，并判斷所述指令是否允許被融合；
如果所述指令允許被融合，則將所述指令對應(yīng)的融合動作加入所述融合動作集合。
3.根據(jù)權(quán)利要求2所述的方法，其特征在于，判斷所述指令是否允許被融合，包括：
獲取所述指令在所述張量計算圖中對應(yīng)的輸入指令，其中，所述指令依賴所述輸入指令輸出的結(jié)果；
判斷所述指令與對應(yīng)的所述輸入指令是否允許融合；
如果所述指令與對應(yīng)的所述輸入指令允許融合，則將所述指令與對應(yīng)的輸入指令構(gòu)成一個融合動作，其中，所述指令對應(yīng)的融合動作包括指令和對應(yīng)的所述輸入指令構(gòu)成的指令對。
4.根據(jù)權(quán)利要求3所述的方法，其特征在于，判斷所述指令與對應(yīng)的所述輸入指令是否允許融合，包括：
如果所述指令與對應(yīng)的輸入指令滿足如下任意一個條件，確定所述指令與對應(yīng)的所述輸入指令允許融合：
所述指令與對應(yīng)的所述輸入指令的指令類型兼容；
所述指令與對應(yīng)的所述輸入指令之間的拓?fù)浣Y(jié)構(gòu)允許進行融合。
5.根據(jù)權(quán)利要求1所述的方法，其特征在于，查找每個所述融合動作對應(yīng)的融合空間，得到所述融合動作對應(yīng)的融合方案，包括：
獲取每組融合動作對應(yīng)的收益信息，其中，所述收益信息用于表示所述融合動作所對應(yīng)的代碼的代碼性能；
根據(jù)所述融合動作，確定所述融合動作對應(yīng)的衍生融合動作集合，其中，所述衍生融合動作集合用于表示包含所述融合動作中的指令的其他融合動作。
6.根據(jù)權(quán)利要求5所述的方法，其特征在于，在獲取每組融合動作對應(yīng)的收益信息之后，所述方法還包括：
根據(jù)所述融合動作對應(yīng)的收益信息更新評估緩存，其中，所述評估緩存用于所有融合動作的收益信息。
7.根據(jù)權(quán)利要求5所述的方法，其特征在于，獲取每組融合動作對應(yīng)的收益信息，包括：
執(zhí)行與所述融合動作對應(yīng)的代碼，并確定所述代碼的代碼性能為所述融合動作對應(yīng)的收益信息；或
通過預(yù)設(shè)的代價模型預(yù)測所述融合動作對應(yīng)的收益信息。
8.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述待選擇的融合方案為最優(yōu)融合方案，從所述融合方案中選擇待選擇的融合方案，包括：
確定用于選擇所述待選擇的融合方案的目標(biāo)函數(shù)，其中，所述目標(biāo)函數(shù)根據(jù)每個融合動作的收益信息構(gòu)建；
獲取約束條件集合，其中，所述約束條件用于指融合動作之間需要滿足的約束條件；
根據(jù)所述約束條件對所述目標(biāo)函數(shù)進行求解，得到所述待選擇的融合方案。
9.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述計算圖為張量計算圖，根據(jù)所述待選擇的融合方案，確定融合計算圖，包括：
根據(jù)所述融合方案中的融合動作對所述張量計算圖進行修改，得到所述融合計算圖。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息，商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于阿里巴巴集團控股有限公司，未經(jīng)阿里巴巴集團控股有限公司許可，擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作，請聯(lián)系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/201911289404.6/1.html，轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
