[發(fā)明專利]一種模型訓(xùn)練方法及裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 202011561292.8
• 申請(qǐng)日: 2020-12-25
• 公開（公告）號(hào): CN112560988B
• 公開（公告）日: 2023-09-19
• 發(fā)明（設(shè)計(jì)）人: 簡(jiǎn)仁賢;王海波;馬永寧
• 申請(qǐng)（專利權(quán)）人: 竹間智能科技（上海）有限公司
• 主分類號(hào): G06F18/214
• 分類號(hào): G06F18/214;G06F40/35
• 代理公司: 上海灣谷知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 31289
• 代理人: 倪繼祖

1.一種模型訓(xùn)練方法，其特征在于，包括：

使用當(dāng)前訓(xùn)練集進(jìn)行訓(xùn)練，獲得當(dāng)前訓(xùn)練模型；

使用所述當(dāng)前訓(xùn)練模型對(duì)非目標(biāo)訓(xùn)練集進(jìn)行預(yù)測(cè)，獲得當(dāng)前預(yù)測(cè)結(jié)果；包括：所述當(dāng)前訓(xùn)練模型預(yù)測(cè)所述非目標(biāo)訓(xùn)練集中的每個(gè)數(shù)據(jù)是否與所述當(dāng)前訓(xùn)練模型有關(guān)，當(dāng)數(shù)據(jù)與所述當(dāng)前訓(xùn)練模型有關(guān)時(shí)，將該數(shù)據(jù)標(biāo)注為相關(guān)數(shù)據(jù)；統(tǒng)計(jì)相關(guān)數(shù)據(jù)的數(shù)量，并作為所述當(dāng)前預(yù)測(cè)結(jié)果；

當(dāng)所述當(dāng)前預(yù)測(cè)結(jié)果滿足迭代停止條件時(shí)，將當(dāng)前訓(xùn)練模型作為目標(biāo)模型的最優(yōu)訓(xùn)練模型；

當(dāng)所述當(dāng)前預(yù)測(cè)結(jié)果不滿足迭代停止條件時(shí)，選取N2個(gè)導(dǎo)致不滿足迭代停止條件的數(shù)據(jù)加入當(dāng)前訓(xùn)練集中，形成下一個(gè)當(dāng)前訓(xùn)練集；包括：當(dāng)所述相關(guān)數(shù)據(jù)的數(shù)量大于預(yù)設(shè)數(shù)量閾值時(shí)，選取N2個(gè)所述相關(guān)數(shù)據(jù)加入所述當(dāng)前訓(xùn)練集中；

其中，所述非目標(biāo)訓(xùn)練集由非目標(biāo)模型的訓(xùn)練數(shù)據(jù)匯集而成，第一個(gè)當(dāng)前訓(xùn)練集由目標(biāo)模型的訓(xùn)練數(shù)據(jù)和N1個(gè)非目標(biāo)訓(xùn)練集中的數(shù)據(jù)匯集而成；所述N1為目標(biāo)模型的訓(xùn)練數(shù)據(jù)量和目標(biāo)模型的訓(xùn)練數(shù)據(jù)類目量的比值；當(dāng)所述相關(guān)數(shù)據(jù)的數(shù)量小于N2的五分之一時(shí)，所述N2為相關(guān)數(shù)據(jù)的數(shù)量；當(dāng)所述相關(guān)數(shù)據(jù)大于等于N2的五分之一時(shí)，所述N2為N1的五分之一；所述當(dāng)前訓(xùn)練模型為FAQ模型，所述非目標(biāo)模型為轉(zhuǎn)人工模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述當(dāng)所述當(dāng)前預(yù)測(cè)結(jié)果不滿足迭代停止條件時(shí)，選取N2個(gè)導(dǎo)致不滿足迭代停止條件的數(shù)據(jù)加入當(dāng)前訓(xùn)練集中，包括：

計(jì)算所述相關(guān)數(shù)據(jù)在所述非目標(biāo)訓(xùn)練集中的比例，當(dāng)該比例大于預(yù)設(shè)比例閾值時(shí)，選取N2個(gè)所述相關(guān)數(shù)據(jù)加入所述當(dāng)前訓(xùn)練集中。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述N1、N2、預(yù)設(shè)數(shù)量閾值和預(yù)設(shè)比例閾值均為超參數(shù)。

4.根據(jù)權(quán)利要求2中所述的方法，其特征在于，所述預(yù)設(shè)比例閾值為1%。

5.一種模型訓(xùn)練裝置，其特征在于，包括：

訓(xùn)練模塊，用于使用當(dāng)前訓(xùn)練集進(jìn)行訓(xùn)練，獲得當(dāng)前訓(xùn)練模型；

預(yù)測(cè)模塊，用于使用所述當(dāng)前訓(xùn)練模型對(duì)非目標(biāo)訓(xùn)練集進(jìn)行預(yù)測(cè)，獲得當(dāng)前預(yù)測(cè)結(jié)果；包括：所述當(dāng)前訓(xùn)練模型預(yù)測(cè)所述非目標(biāo)訓(xùn)練集中的每個(gè)數(shù)據(jù)是否與所述當(dāng)前訓(xùn)練模型有關(guān)，當(dāng)數(shù)據(jù)與所述當(dāng)前訓(xùn)練模型有關(guān)時(shí)，將該數(shù)據(jù)標(biāo)注為相關(guān)數(shù)據(jù)；統(tǒng)計(jì)相關(guān)數(shù)據(jù)的數(shù)量，并作為所述當(dāng)前預(yù)測(cè)結(jié)果；

迭代停止模塊，用于當(dāng)所述當(dāng)前預(yù)測(cè)結(jié)果滿足迭代停止條件時(shí)，將當(dāng)前訓(xùn)練模型作為目標(biāo)模型的最優(yōu)訓(xùn)練模型；當(dāng)所述當(dāng)前預(yù)測(cè)結(jié)果不滿足迭代停止條件時(shí)，選取N2個(gè)導(dǎo)致不滿足迭代停止條件的數(shù)據(jù)加入當(dāng)前訓(xùn)練集中，形成下一個(gè)當(dāng)前訓(xùn)練集；包括：當(dāng)所述相關(guān)數(shù)據(jù)的數(shù)量大于預(yù)設(shè)數(shù)量閾值時(shí)，選取N2個(gè)所述相關(guān)數(shù)據(jù)加入所述當(dāng)前訓(xùn)練集中；

其中，所述非目標(biāo)訓(xùn)練集由非目標(biāo)模型的訓(xùn)練數(shù)據(jù)匯集而成，第一個(gè)當(dāng)前訓(xùn)練集由目標(biāo)模型的訓(xùn)練數(shù)據(jù)和N1個(gè)非目標(biāo)訓(xùn)練集中的數(shù)據(jù)匯集而成；所述N1為目標(biāo)模型的訓(xùn)練數(shù)據(jù)量和目標(biāo)模型的訓(xùn)練數(shù)據(jù)類目量的比值；當(dāng)所述相關(guān)數(shù)據(jù)的數(shù)量小于N2的五分之一時(shí)，所述N2為相關(guān)數(shù)據(jù)的數(shù)量；當(dāng)所述相關(guān)數(shù)據(jù)大于等于N2的五分之一時(shí)，所述N2為N1的五分之一；所述當(dāng)前訓(xùn)練模型為FAQ模型，所述非目標(biāo)模型為轉(zhuǎn)人工模型。