[發明專利]多輸出節點的圖匹配方法、裝置、存儲介質以及電子設備

在審

• 申請號: 202011643567.2
• 申請日: 2020-12-30
• 公開（公告）號: CN114691931A
• 公開（公告）日: 2022-07-01
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 安徽寒武紀信息科技有限公司
• 主分類號: G06F16/901
• 分類號: G06F16/901;G06F16/903
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 熊永強

本申請公開了一種多輸出節點的圖匹配方法裝置、存儲介質以及電子設備，該方法包括：指定待處理圖結構中多個輸出節點中的任一節點為目標輸出節點；確定待處理圖結構中包含目標輸出節點的第一圖結構；利用目標參考節點替換第一圖結構中除輸入節點外的其余節點，以生成第二圖結構；基于第二圖結構，更新待處理圖結構；判斷多個輸出節點是否均被指定；如否，執行上述指定、確定、替換、更新和判斷步驟，直至多個輸出節點均被指定，以得到待處理圖結構的圖匹配結果。采用本申請實施例，可以將多輸出節點的圖結構中的多個節點替換成一個節點，從而簡化網絡結構，提升運算效率。

技術領域

本申請涉及人工智能芯片技術領域，尤其涉及一種多輸出節點的圖匹配方法、裝置、存儲介質以及電子設備。

背景技術

在眾多深度學習框架中(如Tensorflow、Theano、Keras等)，針對計算圖有很多圖優化的操作，同時對于GPU也有一些特殊的圖優化。通過該優化，可以加速網絡運算的性能。其中，最核心的圖優化之一叫做圖匹配機制，圖匹配機制的作用為根據現有的特定網絡結構，將此結構替換成新的結構或者在此基礎上做延伸，具體而言，即是將現有的特定網絡結構中的多個節點(也可稱為算子(Operators，Op))替換成一個新的節點，從而提升網絡結構的運算效率。

在目前的深度學習框架中，圖匹配機制所針對的網絡結構必須是以單個節點作為根節點的網絡結構，但是隨著網絡的發展，網絡的輸出大都為多個輸出節點，因而亟須一種針對多輸出節點的匹配機制。

發明內容

本申請實施例提供了一種多輸出節點的圖匹配方法，可以對含有多個輸出節點的圖結構進行匹配，將多輸出節點圖結構中的多個節點替換成一個節點，從而簡化網絡結構，提升網絡結構運算效率。

第一方面，本申請提供了一種多輸出節點的圖匹配方法，該方法包括：指定待處理圖結構中多個輸出節點中的任一節點為目標輸出節點；確定待處理圖結構中包含目標輸出節點的第一圖結構；利用目標參考節點替換第一圖結構中除輸入節點外的其余節點，以生成第二圖結構；基于第二圖結構，更新待處理圖結構；判斷多個輸出節點是否均被指定；如否，執行上述指定、確定、替換、更新和判斷步驟，直至多個輸出節點均被指定，以得到待處理圖結構的圖匹配結果。

可以看出，在本申請實施方式中，通過上述指定、確定、替換、更新和判斷步驟，可以從該待處理圖結構劃分為出只包含一個輸出節點的第一圖結構，從而將包含多個輸出節點的待處理圖結構的圖匹配轉換成單個輸出節點的圖匹配；對該第一圖結構進行圖匹配生成只包含一個神經網絡運算節點的第二圖結構，該一個神經網絡運算節點即為目標參考節點，該一個目標參考節點的功能與第一圖結構中除輸入節點外的其余節點組合形成的功能相同；因而本申請實施例中的方法有效地簡化了待處理圖結構的網絡結構，進而后續采用圖匹配結果進行運算時，可以有效提升運算效率；同時，通過設置圖匹配過程終止條件，即判斷多個輸出節點是否均被指定，來保證上述待處理圖結構匹配完畢，從而得到正確的圖匹配結果，進而確保采用上述圖匹配結果進行運算時高效性和正確性。

在一種可行的實施方式中，上述確定步驟包括：從目標輸出節點開始，根據數據流向進行逆向搜索，直到搜索至輸入節點，將搜索出的節點與目標輸出節點構成的圖結構作為第一圖結構。

可以看出，在本申請實施方式中，將待處理圖結構劃分出包含目標輸出節點的第一圖結構，由于該第一圖結構只包含一個輸出節點，從而保證了后續對該第一圖結構中除輸入節點外的其余節點進行融合，確保圖匹配過程的順利進行。

在一種可行的實施方式中，上述方法還包括：對第一圖結構中除輸入節點外的其余節點進行融合，得到目標參考節點。

在一種可行的實施方式中，上述替換步驟包括：將第一圖結構中除輸入節點外的其余節點融合為一個目標參考節點，并利用一個目標參考節點替換第一圖結構中除輸入節點外的其余節點。