[發明專利]模型耗時預測方法、裝置、電子設備以及存儲介質

在審

• 申請號: 202110251614.7
• 申請日: 2021-03-08
• 公開（公告）號: CN112990433A
• 公開（公告）日: 2021-06-18
• 發明（設計）人: 黃晨荃
• 申請（專利權）人: OPPO廣東移動通信有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 深圳市智圈知識產權代理事務所(普通合伙) 44351
• 代理人: 呂靜

本申請公開了一種模型耗時預測方法、裝置、電子設備以及存儲介質，涉及電子設備技術領域。獲取待測模型，并創建待測模型對應的拓撲結構，該拓撲結構包括多個節點，其中，多個節點中的每個節點對應待測模型中的一個待測算子；獲取每個節點對應的待測算子的配置信息；基于每個節點對應的待測算子的配置信息，得到每個節點的預測耗時結果；基于多個節點和每個節點的預測耗時結果，獲得待測模型的預測耗時結果。本申請通過獲取待測模型的每個節點對應的待測算子的配置信息，得到每個節點的預測耗時結果，基于多個節點以及每個節點的預測耗時結果，預測該待測模型的耗時結果，從而提升模型耗時結果預測的精確度。

技術領域

本申請涉及電子設備技術領域，更具體地，涉及一種模型耗時預測方法、裝置、電子設備以及存儲介質。

背景技術

深度學習技術在很多方向上都取得了巨大的成功，最近幾年神經網絡架構搜索(Neural Architecture Search，NAS)技術成為研究熱點，NAS是用算法代替繁瑣的人工操作，在海量的搜索空間中自動搜索出最佳的神經網絡架構。在面向模型壓縮的神經網絡架構搜索過程中，模型在目標設備上的推理耗時是搜索的主要關注點，它決定了模型能否在目標設備上高效的運行。因此，如何得到精確的耗時預測結果成為人們關注的問題。

發明內容

鑒于上述問題，本申請提出了一種模型耗時預測方法、裝置、電子設備以及存儲介質，以解決上述問題。

第一方面，本申請實施例提供了一種模型耗時預測方法，所述方法包括：獲取待測模型，并創建所述待測模型對應的拓撲結構，所述拓撲結構包括多個節點，其中，所述多個節點中的每個節點對應所述待測模型中的一個待測算子；獲取所述每個節點對應的待測算子的配置信息；基于所述每個節點對應的待測算子的配置信息，得到所述每個節點的預測耗時結果；基于所述多個節點和所述每個節點的預測耗時結果，獲得所述待測模型的預測耗時結果。

第二方面，本申請實施例提供了一種模型耗時預測裝置，所述裝置包括：模型獲取模塊，用于獲取待測模型，并創建所述待測模型對應的拓撲結構，所述拓撲結構包括多個節點，其中，所述多個節點中的每個節點對應所述待測模型中的一個待測算子；配置信息獲取模塊，用于獲取所述每個節點對應的待測算子的配置信息；節點耗時預測模塊，用于基于所述每個節點對應的待測算子的配置信息，得到所述每個節點的預測耗時結果；模型耗時預測模塊，用于基于所述多個節點和所述每個節點的預測耗時結果，獲得所述待測模型的預測耗時結果。

第三方面，本申請實施例提供了一種電子設備，包括存儲器和處理器，所述存儲器耦接到所述處理器，所述存儲器存儲指令，當所述指令由所述處理器執行時所述處理器執行上述方法。

第四方面，本申請實施例提供了一種計算機可讀取存儲介質，所述計算機可讀取存儲介質中存儲有程序代碼，所述程序代碼可被處理器調用執行上述方法。

本申請實施例提供的模型耗時預測方法、裝置、電子設備以及存儲介質，獲取待測模型，并創建待測模型對應的拓撲結構，該拓撲結構包括多個節點，其中，多個節點中的每個節點對應待測模型中的一個待測算子；獲取每個節點對應的待測算子的配置信息；基于每個節點對應的待測算子的配置信息，得到每個節點的預測耗時結果；基于多個節點和每個節點的預測耗時結果，獲得待測模型的預測耗時結果。從而通過獲取待測模型的每個節點對應的待測算子的配置信息，得到每個節點的預測耗時結果，基于多個節點以及每個節點的預測耗時結果，預測該待測模型的耗時結果，從而提升模型耗時結果預測的精確度。

附圖說明

為了更清楚地說明本申請實施例中的技術方案，下面將對實施例描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本申請的一些實施例，對于本領域技術人員來講，在不付出創造性勞動的前提下，還可以根據這些附圖獲得其它的附圖。

圖1示出了本申請一個實施例提供的模型耗時預測方法的流程示意圖；

圖2示出了本申請又一個實施例提供的模型耗時預測方法的流程示意圖；