[發(fā)明專利]一種網(wǎng)絡(luò)結(jié)構(gòu)搜索方法及裝置

在審

• 申請?zhí)枺?/td>: 202110157050.0
• 申請日: 2021-02-04
• 公開（公告）號: CN112906860A
• 公開（公告）日: 2021-06-04
• 發(fā)明（設(shè)計）人: 駱劍平;石睿
• 申請（專利權(quán)）人: 深圳大學(xué)
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 潘登

本申請實施例公開了一種網(wǎng)絡(luò)結(jié)構(gòu)搜索方法及裝置。所述方法包括：采用基因融合規(guī)則，將待預(yù)測子代的基因和種群中已有個體的基因分別進行融合，得到待預(yù)測基因融合結(jié)果；確定所述待預(yù)測基因融合結(jié)果的個體性能關(guān)系；其中，所述待預(yù)測基因融合結(jié)果的個體性能關(guān)系用于表示所述待預(yù)測基因融合結(jié)果中所述待預(yù)測子代的個體性能與所述已有個體的個體性能之間的優(yōu)劣關(guān)系；根據(jù)各所述待預(yù)測基因融合結(jié)果的個體性能關(guān)系，確定所述待預(yù)測子代的適應(yīng)度值；根據(jù)所述待預(yù)測子代的適應(yīng)度值，從所述待預(yù)測子代中選擇最優(yōu)子代。執(zhí)行本方案，可以實現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)搜索自動化，并在提高搜索效率的同時保證搜索性能。

技術(shù)領(lǐng)域

本申請實施例涉及計算機應(yīng)用技術(shù)領(lǐng)域，尤其涉及一種網(wǎng)絡(luò)結(jié)構(gòu)搜索方法及裝置。

背景技術(shù)

網(wǎng)絡(luò)結(jié)構(gòu)搜索的主要目的是針對特定的待執(zhí)行任務(wù)如目標(biāo)分類任務(wù)搜索出最佳的神經(jīng)網(wǎng)絡(luò)架構(gòu)。通常情況下，神經(jīng)網(wǎng)絡(luò)對于不同種類的任務(wù)需要調(diào)整大量的超參數(shù)，而在調(diào)整的過程中，優(yōu)化神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)架構(gòu)需要花費大量的精力。而網(wǎng)絡(luò)結(jié)構(gòu)搜索方法能夠?qū)崿F(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)調(diào)整自動化，節(jié)省人力物力。

目前，自動化網(wǎng)絡(luò)結(jié)構(gòu)搜索方法如NASBOT(Neural architecture search withbayesian optimisation and optimal transport)算法被提出，該算法提供了一種基于高斯過程的網(wǎng)絡(luò)結(jié)構(gòu)搜索算法。該算法在基于高斯過程的代理模型的基礎(chǔ)上，將OT(OptimalTransport，最優(yōu)傳輸)問題應(yīng)用至高斯過程核函數(shù)的求解之中，并最終將核函數(shù)由顯示表達轉(zhuǎn)換為隱式表達。算法在之后的迭代過程中，通過不斷的求解OT來衡量兩個不同網(wǎng)絡(luò)之間的差異，以此來完成高斯過程對網(wǎng)絡(luò)識別率的估計。

但是高斯過程對于訓(xùn)練數(shù)據(jù)規(guī)模的需求巨大，而NASBOT算法模型所使用的復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)導(dǎo)致訓(xùn)練網(wǎng)絡(luò)需要更多的時間。因此NASBOT算法往往需要花費更久的時間才能進行準確的預(yù)測，無法兼顧搜索效率和搜索性能。。

發(fā)明內(nèi)容

本申請實施例提供一種網(wǎng)絡(luò)結(jié)構(gòu)搜索方法及裝置，可以實現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)搜索自動化，達到提高搜索效率的同時保證搜索性能的目的。

第一方面，本申請實施例提供了一種網(wǎng)絡(luò)結(jié)構(gòu)搜索方法，所述方法包括：

采用基因融合規(guī)則，將待預(yù)測子代的基因和種群中已有個體的基因分別進行融合，得到待預(yù)測基因融合結(jié)果；

確定所述待預(yù)測基因融合結(jié)果的個體性能關(guān)系；其中，所述待預(yù)測基因融合結(jié)果的個體性能關(guān)系用于表示所述待預(yù)測基因融合結(jié)果中所述待預(yù)測子代的個體性能與所述已有個體的個體性能之間的優(yōu)劣關(guān)系；

根據(jù)各所述待預(yù)測基因融合結(jié)果的個體性能關(guān)系，確定所述待預(yù)測子代的適應(yīng)度值；

根據(jù)所述待預(yù)測子代的適應(yīng)度值，從所述待預(yù)測子代中選擇最優(yōu)子代。

第二方面，本申請實施例提供了一種網(wǎng)絡(luò)結(jié)構(gòu)搜索裝置，所述裝置包括：

待預(yù)測基因融合結(jié)果確定模塊，用于采用基因融合規(guī)則，將待預(yù)測子代的基因和種群中已有個體的基因分別進行融合，得到待預(yù)測基因融合結(jié)果；

個體性能關(guān)系確定模塊，用于確定所述待預(yù)測基因融合結(jié)果的個體性能關(guān)系；其中，所述待預(yù)測基因融合結(jié)果的個體性能關(guān)系用于表示所述待預(yù)測基因融合結(jié)果中所述待預(yù)測子代的個體性能與所述已有個體的個體性能之間的優(yōu)劣關(guān)系；

待預(yù)測子代適應(yīng)度值確定模塊，用于根據(jù)各所述待預(yù)測基因融合結(jié)果的個體性能關(guān)系，確定所述待預(yù)測子代的適應(yīng)度值；

最優(yōu)子代確定模塊，用于根據(jù)所述待預(yù)測子代的適應(yīng)度值，從所述待預(yù)測子代中選擇最優(yōu)子代。

第三方面，本申請實施例提供了一種計算機可讀存儲介質(zhì)，其上存儲有計算機程序，該程序被處理器執(zhí)行時實現(xiàn)如本申請實施例所述的網(wǎng)絡(luò)結(jié)構(gòu)搜索方法。