[發(fā)明專利]一種模型的獲取方法及設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 202011131434.7
• 申請(qǐng)日: 2020-10-21
• 公開（公告）號(hào): CN112434462A
• 公開（公告）日: 2021-03-02
• 發(fā)明（設(shè)計(jì)）人: 王波超;康寧;徐航;黃國(guó)位;張維;李震國(guó)
• 申請(qǐng)（專利權(quán)）人: 華為技術(shù)有限公司
• 主分類號(hào): G06F30/27
• 分類號(hào): G06F30/27;G06K9/62;G06N3/04;G06Q10/04;G06F111/04
• 代理公司: 深圳市深佳知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44285
• 代理人: 陳松浩

1.一種模型的獲取方法，其特征在于，包括：

基于約束條件構(gòu)建模型集，所述模型集包括至少兩個(gè)在第一數(shù)據(jù)集上預(yù)訓(xùn)練過的模型；

通過構(gòu)建的第一預(yù)測(cè)器預(yù)測(cè)所述模型集中任意一個(gè)模型對(duì)第二數(shù)據(jù)集的第一輸出精度，其中，每個(gè)模型對(duì)應(yīng)一個(gè)第一輸出精度，所述每個(gè)模型對(duì)應(yīng)一組超參數(shù)，所述超參數(shù)通過在超參數(shù)空間采樣得到；

確定所述模型中第一輸出精度滿足第一預(yù)設(shè)條件的模型為目標(biāo)模型，所述目標(biāo)模型對(duì)應(yīng)的超參數(shù)為目標(biāo)超參數(shù)；

基于所述目標(biāo)超參數(shù)，根據(jù)所述第二數(shù)據(jù)集對(duì)所述目標(biāo)模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的目標(biāo)模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述通過構(gòu)建的第一預(yù)測(cè)器預(yù)測(cè)所述模型集中任意一個(gè)模型對(duì)第二數(shù)據(jù)集的第一輸出精度包括：

對(duì)所述超參數(shù)、所述模型集中的任意一個(gè)模型及所述第二數(shù)據(jù)集分別進(jìn)行編碼，分別得到超參數(shù)編碼、模型編碼及第二數(shù)據(jù)集編碼；

將所述超參數(shù)編碼、所述模型編碼及所述第二數(shù)據(jù)集編碼輸入所述第一預(yù)測(cè)器，輸出所述任意一個(gè)模型在所述超參數(shù)情況下對(duì)所述第二數(shù)據(jù)集的第一輸出精度。

3.根據(jù)權(quán)利要求1-2中任一項(xiàng)所述的方法，其特征在于，在所述基于所述目標(biāo)超參數(shù)，根據(jù)所述第二數(shù)據(jù)集對(duì)所述目標(biāo)模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的目標(biāo)模型之后，所述方法還包括：

根據(jù)第二輸出精度、所述第二數(shù)據(jù)集、所述目標(biāo)超參數(shù)及所述目標(biāo)模型更新所述第一預(yù)測(cè)器的參數(shù)，所述第二輸出精度為所述訓(xùn)練后的目標(biāo)模型對(duì)所述第二數(shù)據(jù)集的輸出精度。

4.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，其特征在于，所述確定所述模型中第一輸出精度滿足第一預(yù)設(shè)條件的模型為目標(biāo)模型包括：

從所述模型中選取第一輸出精度取值最大的模型為所述目標(biāo)模型。

5.根據(jù)權(quán)利要求1-4中任一項(xiàng)所述的方法，其特征在于，所述基于約束條件構(gòu)建模型集包括：

基于約束條件構(gòu)建初始模型集，所述初始模型集包括至少兩個(gè)訓(xùn)練后的初始模型，所述訓(xùn)練后的初始模型為根據(jù)所述第一數(shù)據(jù)集對(duì)初始模型訓(xùn)練得到；

根據(jù)所述訓(xùn)練后的初始模型對(duì)構(gòu)建的第二預(yù)測(cè)器進(jìn)行訓(xùn)練，得到訓(xùn)練后的第二預(yù)測(cè)器；

通過演化算法(EA)得到每個(gè)初始模型各自對(duì)應(yīng)的一組衍生模型，每組衍生模型包括至少一個(gè)衍生模型；

通過所述訓(xùn)練后的第二預(yù)測(cè)器對(duì)每個(gè)衍生模型進(jìn)行處理，得到每個(gè)衍生模型對(duì)所述第一數(shù)據(jù)集的第三輸出精度；

根據(jù)所述第三輸出精度從所述衍生模型中選取目標(biāo)衍生模型，并根據(jù)所述第一數(shù)據(jù)集對(duì)所述目標(biāo)衍生模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的目標(biāo)衍生模型，所述訓(xùn)練后的初始模型及所述訓(xùn)練后的目標(biāo)衍生模型構(gòu)成所述模型集。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述基于約束條件構(gòu)建初始模型集包括：

根據(jù)約束條件確定搜索空間，所述搜索空間包括多種網(wǎng)絡(luò)結(jié)構(gòu)單元(block)及所述多種網(wǎng)絡(luò)結(jié)構(gòu)單元之間的連接關(guān)系；

從所述搜索空間隨機(jī)采樣至少兩個(gè)初始模型，并根據(jù)所述第一數(shù)據(jù)集對(duì)所述初始模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的初始模型，所述初始模型集包括所述訓(xùn)練后的初始模型。

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，所述根據(jù)所述第一數(shù)據(jù)集對(duì)所述初始模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的初始模型包括：

將所述至少兩個(gè)初始模型融合成一個(gè)第一模型；

根據(jù)所述第一數(shù)據(jù)集對(duì)所述第一模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的第一模型；

將所述訓(xùn)練后的第一模型拆解為至少兩個(gè)訓(xùn)練后的初始模型。

8.根據(jù)權(quán)利要求5-7中任一項(xiàng)所述的方法，其特征在于，所述目標(biāo)衍生模型為多個(gè)，所述根據(jù)所述第一數(shù)據(jù)集對(duì)所述目標(biāo)衍生模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的目標(biāo)衍生模型包括：

將多個(gè)所述目標(biāo)衍生模型融合成一個(gè)第二模型；

根據(jù)所述第一數(shù)據(jù)集對(duì)所述第二模型進(jìn)行訓(xùn)練，得到訓(xùn)練后的第二模型；

將所述訓(xùn)練后的第二模型拆解為多個(gè)訓(xùn)練后的目標(biāo)衍生模型。