[發明專利]神經網絡結構的評估、確定方法、裝置和存儲介質

在審

• 申請號: 201911059798.6
• 申請日: 2019-10-29
• 公開（公告）號: CN110929867A
• 公開（公告）日: 2020-03-27
• 發明（設計）人: 初祥祥;許瑞軍;張勃;李吉祥;李慶源
• 申請（專利權）人: 北京小米移動軟件有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 羊淑梅

本公開是關于一種神經網絡結構的評估、確定方法、裝置和存儲介質。該方法包括：獲取子結構與GPU時間的對應關系，所述對應關系用于指示超網絡中各個子結構的GPU時間，所述超網絡包括多層搜索空間，每層所述搜索空間包括多個子結構；基于所述對應關系，確定目標神經網絡的GPU時間，所述目標神經網絡包括依次連接的多層結構，所述目標神經網絡的每層結構為對應層的所述搜索空間中的一個子結構；基于所述目標神經網絡的GPU時間，對所述目標神經網絡的結構進行評估。通過基于所述對應關系，確定目標神經網絡的GPU時間，可以快速確定目標神經網絡的GPU時間，有利于快速判斷目標神經網絡是否滿足設計需求。

技術領域

本公開涉及計算機技術領域，尤其涉及一種神經網絡結構的評估、確定方法、裝置和存儲介質。

背景技術

神經網絡是采用非線性單元中的一個或多個層來為接收的輸入預測輸出的機器學習模型。一些神經網絡除了包括輸出層之外，還包括一個或多個隱藏層。每個隱藏層的輸出被用作該網絡的下一層(即下一個隱藏層或輸出層)的輸入。

目前，神經網絡的構建通常都采用人工方式，即研究人員根據經驗設計神經網絡的結構并賦予初始參數，然后對神經網絡進行訓練，以得到可以執行指定任務的神經網絡。

發明內容

本公開提供一種神經網絡結構的評估、確定方法、裝置和存儲介質，能夠快速確定神經網絡結構的GPU時間，以便于評估神經網絡結構是否符合要求。

根據本公開實施例的第一方面，提供一種一種神經網絡結構的評估方法，所述方法包括：

獲取子結構與GPU時間的對應關系，所述對應關系用于指示超網絡中各個子結構的GPU時間，所述超網絡包括多層搜索空間，每層所述搜索空間包括多個子結構；

基于所述對應關系，確定目標神經網絡的GPU時間，所述目標神經網絡包括依次連接的多層結構，所述目標神經網絡的每層結構為對應層的所述搜索空間中的一個子結構；

基于所述目標神經網絡的GPU時間，對所述目標神經網絡的結構進行評估。

可選地，所述基于所述對應關系，確定目標神經網絡的GPU時間，包括：

在所述對應關系中查找所述目標神經網絡的每層結構的GPU時間；

將所述目標神經網絡的所有層結構的GPU時間相加，得到所述目標神經網絡的GPU時間。

可選地，所述基于所述目標神經網絡的GPU時間，對所述目標神經網絡的結構進行評估，包括：

確定所述目標神經網絡的GPU時間是否小于時長閾值。

可選地，在所述獲取子結構與GPU時間的對應關系之前，所述方法還包括：

從所述超網絡的每一層搜索空間中，分別選擇一個子結構；

采用選擇出的子結構建立神經網絡子網絡；

運行所述神經網絡子網絡并在所述神經網絡子網絡的運行過程中，獲取神經網絡子網絡中的子結構的GPU時間；

重復上述步驟，直到得到所述超網絡中所有子結構的GPU時間；

根據得到的所述GPU時間建立所述對應關系。

根據本公開實施例的第二方面，提供一種神經網絡結構的確定方法，所述方法包括：

從超網絡中確定出多個采樣網絡，所述超網絡包括多層搜索空間，每層所述搜索空間包括多個子結構，所述多個采樣網絡包括依次連接的多層結構，所述采樣網絡的每層結構為對應層的所述搜索空間中的一個子結構；

獲取子結構與GPU時間的對應關系，所述對應關系用于指示所述超網絡中各個子結構的GPU時間；