[發(fā)明專利]模型生成方法和裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 201911045637.1
• 申請(qǐng)日: 2019-10-30
• 公開(kāi)（公告）號(hào): CN110807515B
• 公開(kāi)（公告）日: 2023-04-28
• 發(fā)明（設(shè)計(jì)）人: 希滕;張剛;溫圣召
• 申請(qǐng)（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號(hào): G06N3/045
• 分類號(hào): G06N3/045;G06N3/0464;G06N3/0442;G06N3/086
• 代理公司: 北京英賽嘉華知識(shí)產(chǎn)權(quán)代理有限責(zé)任公司 11204
• 代理人: 王達(dá)佐;馬曉亞

本公開(kāi)涉及人工智能領(lǐng)域。本公開(kāi)的實(shí)施例公開(kāi)了模型生成方法和裝置。該方法包括：通過(guò)依次執(zhí)行多次迭代操作生成用于執(zhí)行深度學(xué)習(xí)任務(wù)的神經(jīng)網(wǎng)絡(luò)模型；迭代操作包括：基于當(dāng)前的反饋獎(jiǎng)勵(lì)值對(duì)預(yù)設(shè)的模型結(jié)構(gòu)控制器進(jìn)行更新，采用更新后的模型結(jié)構(gòu)控制器生成多個(gè)待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)；按照預(yù)設(shè)的分級(jí)訓(xùn)練方式，對(duì)待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)進(jìn)行至少兩級(jí)訓(xùn)練；根據(jù)經(jīng)過(guò)至少兩級(jí)訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)的性能更新獎(jiǎng)勵(lì)反饋值；響應(yīng)于確定獎(jiǎng)勵(lì)反饋值達(dá)到預(yù)設(shè)的收斂條件或迭代操作的次數(shù)達(dá)到預(yù)設(shè)的閾值，確定當(dāng)前迭代操作中經(jīng)過(guò)至少兩級(jí)訓(xùn)練后性能最優(yōu)的神經(jīng)網(wǎng)絡(luò)為用于執(zhí)行深度學(xué)習(xí)任務(wù)的神經(jīng)網(wǎng)絡(luò)模型。該方法提升了神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)搜索的效率。

技術(shù)領(lǐng)域

本公開(kāi)的實(shí)施例涉及計(jì)算機(jī)技術(shù)領(lǐng)域，具體涉及人工智能技術(shù)領(lǐng)域，尤其涉及模型生成方法和裝置。

背景技術(shù)

隨著人工智能技術(shù)的發(fā)展，深度學(xué)習(xí)在很多應(yīng)用領(lǐng)域都取得了良好的成果。深度學(xué)習(xí)中，神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)對(duì)模型的效果有非常重要的影響。實(shí)踐中為了獲得較高的性能，神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)復(fù)雜度較高，運(yùn)行神經(jīng)網(wǎng)絡(luò)所需耗費(fèi)的計(jì)算資源較多。而手工設(shè)計(jì)網(wǎng)絡(luò)的結(jié)構(gòu)需要非常豐富的經(jīng)驗(yàn)和多次嘗試，成本較高。

神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索技術(shù)(Neural?Architecture?Search，NAS)可以代替繁瑣的人工操作，自動(dòng)搜索出最佳的神經(jīng)網(wǎng)絡(luò)架構(gòu)。然而，通常搜索空間較大，NAS需要花費(fèi)很多時(shí)間來(lái)完成神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索，搜索效率有待提升。

發(fā)明內(nèi)容

本公開(kāi)的實(shí)施例提出了模型生成方法和裝置、電子設(shè)備和計(jì)算機(jī)可讀介質(zhì)。

第一方面，本公開(kāi)的實(shí)施例提供了一種模型生成方法，包括：通過(guò)依次執(zhí)行多次迭代操作生成用于執(zhí)行深度學(xué)習(xí)任務(wù)的神經(jīng)網(wǎng)絡(luò)模型；其中，迭代操作包括：基于當(dāng)前的反饋獎(jiǎng)勵(lì)值對(duì)預(yù)設(shè)的模型結(jié)構(gòu)控制器進(jìn)行更新，采用更新后的模型結(jié)構(gòu)控制器生成多個(gè)待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，反饋獎(jiǎng)勵(lì)值的初始值是預(yù)設(shè)的數(shù)值；按照預(yù)設(shè)的分級(jí)訓(xùn)練方式，對(duì)待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)進(jìn)行至少兩級(jí)訓(xùn)練，其中，相鄰的兩級(jí)訓(xùn)練中后一級(jí)訓(xùn)練對(duì)前一級(jí)訓(xùn)練中性能達(dá)到預(yù)設(shè)的性能條件的部分待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，且同一待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)在相鄰的兩級(jí)訓(xùn)練中的后一級(jí)訓(xùn)練的訓(xùn)練時(shí)間比前一級(jí)訓(xùn)練的訓(xùn)練時(shí)間長(zhǎng)；根據(jù)經(jīng)過(guò)至少兩級(jí)訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)的性能更新獎(jiǎng)勵(lì)反饋值；響應(yīng)于確定獎(jiǎng)勵(lì)反饋值達(dá)到預(yù)設(shè)的收斂條件或迭代操作的次數(shù)達(dá)到預(yù)設(shè)的閾值，確定當(dāng)前迭代操作中經(jīng)過(guò)至少兩級(jí)訓(xùn)練后性能最優(yōu)的神經(jīng)網(wǎng)絡(luò)為用于執(zhí)行深度學(xué)習(xí)任務(wù)的神經(jīng)網(wǎng)絡(luò)模型。

在一些實(shí)施例中，上述按照預(yù)設(shè)的分級(jí)訓(xùn)練方式，對(duì)待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)進(jìn)行至少兩級(jí)訓(xùn)練，包括：將模型結(jié)構(gòu)控制器生成的各待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)作為第一級(jí)訓(xùn)練操作中的候選神經(jīng)網(wǎng)絡(luò)，執(zhí)行至少兩級(jí)訓(xùn)練操作，其中，訓(xùn)練操作包括：對(duì)當(dāng)前級(jí)訓(xùn)練操作中的各候選神經(jīng)網(wǎng)絡(luò)進(jìn)行迭代更新，響應(yīng)于確定在執(zhí)行若干次迭代更新后達(dá)到當(dāng)前級(jí)訓(xùn)練操作的預(yù)設(shè)篩選節(jié)點(diǎn)，從當(dāng)前級(jí)訓(xùn)練操作的候選神經(jīng)網(wǎng)絡(luò)中篩選出性能滿足當(dāng)前級(jí)訓(xùn)練操作對(duì)應(yīng)的預(yù)設(shè)性能條件的候選神經(jīng)網(wǎng)絡(luò)作為下一級(jí)訓(xùn)練操作中的候選神經(jīng)網(wǎng)絡(luò)；以及上述根據(jù)經(jīng)過(guò)至少兩級(jí)訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)的性能更新獎(jiǎng)勵(lì)反饋值，包括：根據(jù)執(zhí)行至少兩級(jí)訓(xùn)練操作后得到的候選神經(jīng)網(wǎng)絡(luò)的性能更新獎(jiǎng)勵(lì)反饋值。

在一些實(shí)施例中，上述當(dāng)前級(jí)訓(xùn)練操作的預(yù)設(shè)篩選節(jié)點(diǎn)包括：當(dāng)前級(jí)訓(xùn)練操作的累積訓(xùn)練時(shí)間達(dá)到相鄰的前一級(jí)訓(xùn)練操作的累積訓(xùn)練時(shí)間的預(yù)設(shè)倍數(shù)。

在一些實(shí)施例中，上述當(dāng)前級(jí)訓(xùn)練操作的預(yù)設(shè)篩選節(jié)點(diǎn)根據(jù)如下方式確定：對(duì)當(dāng)前級(jí)訓(xùn)練操作中的待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)進(jìn)行采樣，得到樣本神經(jīng)網(wǎng)絡(luò)；確定隨迭代訓(xùn)練次數(shù)增加，樣本神經(jīng)網(wǎng)絡(luò)的性能參數(shù)的梯度；將樣本神經(jīng)網(wǎng)絡(luò)的性能參數(shù)的梯度降低至預(yù)設(shè)的梯度閾值以下時(shí)所對(duì)應(yīng)的迭代訓(xùn)練次數(shù)確定為當(dāng)前級(jí)訓(xùn)練操作中的最大迭代訓(xùn)練次數(shù)。

在一些實(shí)施例中，上述對(duì)待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)進(jìn)行至少兩級(jí)訓(xùn)練，包括：采用模型蒸餾法，對(duì)待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)進(jìn)行至少兩級(jí)訓(xùn)練。