[發(fā)明專利]網(wǎng)絡(luò)模型的處理方法及裝置、電子設(shè)備和存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202011021703.4
• 申請(qǐng)日: 2020-09-25
• 公開（公告）號(hào): CN111967585B
• 公開（公告）日: 2022-02-22
• 發(fā)明（設(shè)計(jì)）人: 郭少鵬;王宇杰;李全全
• 申請(qǐng)（專利權(quán)）人: 深圳市商湯科技有限公司
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/08
• 代理公司: 北京派特恩知識(shí)產(chǎn)權(quán)代理有限公司 11270
• 代理人: 崔曉嵐;張穎玲

本申請(qǐng)公開了一種網(wǎng)絡(luò)模型的處理方法及裝置、電子設(shè)備、存儲(chǔ)介質(zhì)，其中，所述方法應(yīng)用于第一網(wǎng)絡(luò)模型，所述第一網(wǎng)絡(luò)模型包括N個(gè)階段，N為大于等于1的整數(shù)，所述N個(gè)階段具有對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)，所述方法包括：基于具有對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)的所述N個(gè)階段，構(gòu)建與所述N個(gè)階段對(duì)應(yīng)的N個(gè)馬爾科夫模型；基于與所述N個(gè)階段對(duì)應(yīng)的N個(gè)馬爾科夫模型確定與所述N個(gè)階段對(duì)應(yīng)的N個(gè)期望結(jié)構(gòu)；基于所述N個(gè)期望結(jié)構(gòu)對(duì)所述N個(gè)階段對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)進(jìn)行調(diào)整，得到所述第一網(wǎng)絡(luò)模型的優(yōu)化結(jié)構(gòu)。

技術(shù)領(lǐng)域

本申請(qǐng)實(shí)施例涉及計(jì)算機(jī)領(lǐng)域，尤其涉及一種網(wǎng)絡(luò)模型的處理方法及裝置、電子設(shè)備和存儲(chǔ)介質(zhì)。

背景技術(shù)

近年來，深度學(xué)習(xí)在人工智能相關(guān)的產(chǎn)品中起著至關(guān)重要的作用，例如物體檢測(cè)，人臉識(shí)別等。然而在實(shí)際的任務(wù)中，不同的產(chǎn)品需要不同計(jì)算量的模型；例如，安防產(chǎn)品通常會(huì)使用計(jì)算量大，但是精度高的模型，而移動(dòng)端產(chǎn)品由于硬件算力、存儲(chǔ)空間等限制，一般會(huì)選擇計(jì)算量較小的模型。決定模型計(jì)算量的主要因素為模型的卷積層的數(shù)量(即深度)以及模型中各個(gè)卷積層的通道的數(shù)量(即寬度)。然而，這兩個(gè)因素通常都是人為設(shè)計(jì)的，在有限的計(jì)算量下，模型中卷積層的數(shù)量以及各個(gè)卷積層的通道的數(shù)量的分配將直接影響模型的精度，人為的設(shè)計(jì)通常很難找到針對(duì)模型最優(yōu)的卷積層的數(shù)量以及各個(gè)卷積層的通道數(shù)量的分配方式。

發(fā)明內(nèi)容

為解決上述技術(shù)問題，本申請(qǐng)實(shí)施例提供了一種網(wǎng)絡(luò)模型的處理方法及裝置、電子設(shè)備和存儲(chǔ)介質(zhì)。

本申請(qǐng)實(shí)施例提供了一種網(wǎng)絡(luò)模型的處理方法，所述方法應(yīng)用于第一網(wǎng)絡(luò)模型，所述第一網(wǎng)絡(luò)模型包括N個(gè)階段，N為大于等于1的整數(shù)，所述N個(gè)階段具有對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)，所述方法包括：

基于具有對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)的所述N個(gè)階段，構(gòu)建與所述N個(gè)階段對(duì)應(yīng)的N個(gè)馬爾科夫模型；

基于與所述N個(gè)階段對(duì)應(yīng)的N個(gè)馬爾科夫模型確定與所述N個(gè)階段對(duì)應(yīng)的N個(gè)期望結(jié)構(gòu)；

基于所述N個(gè)期望結(jié)構(gòu)對(duì)所述N個(gè)階段對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)進(jìn)行調(diào)整，得到所述第一網(wǎng)絡(luò)模型的優(yōu)化結(jié)構(gòu)。

本申請(qǐng)一可選實(shí)施方式中，所述方法還包括：

利用所述N個(gè)馬爾科夫模型對(duì)所述第一網(wǎng)絡(luò)模型進(jìn)行采樣以及訓(xùn)練，得到對(duì)所述第一網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練后的第二網(wǎng)絡(luò)模型；

基于所述第二網(wǎng)絡(luò)模型對(duì)所述N個(gè)馬爾科夫模型進(jìn)行優(yōu)化，得到與所述N個(gè)階段對(duì)應(yīng)的N個(gè)優(yōu)化的馬爾科夫模型；

所述基于與所述N個(gè)階段對(duì)應(yīng)的馬爾科夫模型確定與所述N個(gè)階段對(duì)應(yīng)的N個(gè)期望結(jié)構(gòu)，包括：

利用與所述N個(gè)階段對(duì)應(yīng)的N個(gè)優(yōu)化的馬爾科夫模型確定與所述N個(gè)階段對(duì)應(yīng)的N個(gè)期望結(jié)構(gòu)。

本申請(qǐng)一可選實(shí)施方式中，所述基于所述N個(gè)期望結(jié)構(gòu)對(duì)所述N個(gè)階段對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)進(jìn)行調(diào)整，包括：

判斷所述N個(gè)階段對(duì)應(yīng)的N個(gè)期望結(jié)構(gòu)與所述N個(gè)階段對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)是否滿足預(yù)設(shè)關(guān)系；

若所述N個(gè)階段對(duì)應(yīng)的N個(gè)期望結(jié)構(gòu)與所述N個(gè)階段對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)滿足預(yù)設(shè)關(guān)系，則將所述N個(gè)第一結(jié)構(gòu)確定為所述N個(gè)階段的優(yōu)化結(jié)構(gòu)；

若所述N個(gè)階段對(duì)應(yīng)的N個(gè)期望結(jié)構(gòu)與所述N個(gè)階段對(duì)應(yīng)的N個(gè)第一結(jié)構(gòu)不滿足預(yù)設(shè)關(guān)系，則迭代執(zhí)行如下步驟，直到所述N個(gè)第一結(jié)構(gòu)與所述N個(gè)期望結(jié)構(gòu)滿足預(yù)設(shè)關(guān)系：

基于所述N個(gè)期望結(jié)構(gòu)對(duì)所述N個(gè)第一結(jié)構(gòu)進(jìn)行更新，得到N個(gè)第二結(jié)構(gòu)；

利用所述N個(gè)優(yōu)化的馬爾科夫模型對(duì)具有N個(gè)第二結(jié)構(gòu)的第一網(wǎng)絡(luò)模型進(jìn)行采樣及訓(xùn)練，得到更新的第二網(wǎng)絡(luò)模型；

基于所述更新的第二網(wǎng)絡(luò)模型對(duì)所述N個(gè)優(yōu)化的馬爾科夫模型進(jìn)行優(yōu)化；

利用N個(gè)優(yōu)化的馬爾科夫模型確定與所述N個(gè)階段對(duì)應(yīng)的N個(gè)期望結(jié)構(gòu)。