[發明專利]接入方法、裝置、電子設備及計算機存儲介質

有效

• 申請號: 202111506921.1
• 申請日: 2021-12-10
• 公開（公告）號: CN114201156B
• 公開（公告）日: 2022-08-05
• 發明（設計）人: 馬艷軍;王海峰;胡曉光;于佃海;吳甜;李琦
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06F8/30
• 分類號: G06F8/30;G06F9/448;G06N3/04;G06N3/08
• 代理公司: 北京市鑄成律師事務所 11313
• 代理人: 皇甫韻嘯;王云紅

本公開提供了接入方法、裝置、電子設備及計算機存儲介質，計算機技術領域，尤其涉及芯片、深度學習等人工智能技術領域。具體實現方案為：根據目標模型中的算子表達，確定調用接入設備的計算圖；根據所述接入設備的信息，對所述計算圖進行優化；根據所述接入設備接入目標模型的模型框架的接口和所述計算圖，對所述接入設備執行所述目標模型的運行相關操作，所述接入設備接入所述目標模型的模型框架的接口，是根據所述接入設備的工具包數據確定的。本公開實施例能夠提高模型框架對不同的接入設備的通用性。

技術領域

本公開涉及計算機技術領域，尤其涉及芯片、深度學習等人工智能技術領域。

背景技術

隨著計算機技術的發展，深度學習等人工智能技術也快速發展。深度學習模型或者機器學習模型之類的人工智能領域的模型，在人工智能技術中處于核心地位。

模型的運行一般需要硬件的支持，但是硬件設備的差異性，導致模型的運行存在一定的適配問題。

發明內容

本公開提供了一種接入方法、裝置、電子設備及計算機存儲介質。

根據本公開的一方面，提供了一種接入方法，包括：

根據目標模型中的算子表達，確定調用接入設備的計算圖；

根據接入設備的信息，對計算圖進行優化；

根據接入設備接入目標模型的模型框架的接口和計算圖，對接入設備執行目標模型的運行相關操作，接入設備接入目標模型的模型框架的接口，是根據接入設備的工具包數據確定的。

根據本公開的另一方面，提供了一種接入裝置，包括：

計算圖確定模塊，用于根據目標模型中的算子表達，確定調用接入設備的計算圖；

圖優化模塊，用于根據接入設備的信息，對計算圖進行優化；

運行模塊，用于根據接入設備接入目標模型的模型框架的接口和計算圖，對接入設備執行目標模型的運行相關操作，接入設備接入目標模型的模型框架的接口，是根據接入設備的工具包數據確定的。

根據本公開的另一方面，提供了一種電子設備，包括：

至少一個處理器；以及

與該至少一個處理器通信連接的存儲器；其中，

該存儲器存儲有可被該至少一個處理器執行的指令，該指令被該至少一個處理器執行，以使該至少一個處理器能夠執行本公開任一實施例中的方法。

根據本公開的另一方面，提供了一種存儲有計算機指令的非瞬時計算機可讀存儲介質，該計算機指令用于使計算機執行本公開任一實施例中的方法。

根據本公開的另一方面，提供了一種計算機程序產品，包括計算機程序/指令，該計算機程序/指令被處理器執行時實現本公開任一實施例中的方法。

根據本公開的技術，能夠根據目標模型中的算子表達、目標模型的接入設備的情況，對目標模塊運行相關的計算圖進行優化，計算圖優化和接入接口分開執行，從而只需在接入接口時進行關于接口的改進，使得改進后的接口適配更多不同的接入設備，減少適配不同的接入設備的難度和數據修改量。

應當理解，本部分所描述的內容并非旨在標識本公開的實施例的關鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。

附圖說明

附圖用于更好地理解本方案，不構成對本公開的限定。其中：

圖1是根據本公開一實施例的接入方法示意圖；

圖2是根據本公開另一實施例的接入方法示意圖；

圖3是根據本公開又一實施例的接入方法示意圖；