[發(fā)明專利]一種用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法

在審

• 申請?zhí)枺?/td>: 202010879066.8
• 申請日: 2020-08-27
• 公開（公告）號: CN112016451A
• 公開（公告）日: 2020-12-01
• 發(fā)明（設(shè)計）人: 曹永鋒;劉大鵬;蘇彩霞;王鵬舉
• 申請（專利權(quán)）人: 貴州師范大學(xué)
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06K9/62;G06N20/00
• 代理公司: 貴陽中新專利商標(biāo)事務(wù)所 52100
• 代理人: 李余江;程新敏

1.一種用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法，其特征在于：該方法用于對目標(biāo)任務(wù)待標(biāo)注樣本進(jìn)行區(qū)分處理：對不位于源任務(wù)樣本空間內(nèi)的目標(biāo)任務(wù)樣本要求標(biāo)注；對位于源任務(wù)樣本空間內(nèi)的目標(biāo)任務(wù)樣本，自動從源任務(wù)已標(biāo)注樣本集合中找到最佳替代。

2.根據(jù)權(quán)利要求1所述的用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法，其特征在于：

步驟1，構(gòu)建替代樣本集：將源任務(wù)已標(biāo)注樣本集合中具有目標(biāo)任務(wù)類別標(biāo)號的樣本取出，作為替代樣本集S；

步驟2，替代樣本集映射到公共特征空間；

步驟3，構(gòu)建待標(biāo)注目標(biāo)任務(wù)樣本集U；

步驟4，計算目標(biāo)任務(wù)樣本與替代樣本集的差異度；

步驟5，目標(biāo)任務(wù)樣本標(biāo)注和替換；

步驟6，放入已標(biāo)注目標(biāo)任務(wù)樣本池；

步驟7，訓(xùn)練目標(biāo)任務(wù)模型；

步驟8，重復(fù)步驟3-步驟7直到目標(biāo)任務(wù)模型達(dá)到性能要求或者沒有新增標(biāo)注需求。

3.根據(jù)權(quán)利要求2所述的用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法，其特征在于：步驟1中構(gòu)建替代樣本集包括：S＝{(X^c,Y^c),c＝1,2,...,l_s}為替代樣本集，樣本集內(nèi)存在l_s個不同類別樣本子集，每個樣本子集包含一個樣本特征數(shù)據(jù)集X^c＝{x_i,i＝1,2,...,n_c}和一個對應(yīng)的樣本標(biāo)注數(shù)據(jù)集Y^c＝{y_i,i＝1,2,...,n_c}，其中x_i為第i個樣本的特征矢量，y_i∈{1,2,...,l_s}為第i個樣本的標(biāo)注類別，n_c為第c個樣本子集內(nèi)的樣本數(shù)。

4.根據(jù)權(quán)利要求3所述的用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法，其特征在于：步驟2中替代樣本集映射到公共特征空間包括：使用函數(shù)f()將替代樣本集S內(nèi)的每一個樣本特征矢量都映射到公共特征空間，進(jìn)而構(gòu)建新的數(shù)據(jù)集S^f；其中，f()為特征映射函數(shù)。

5.根據(jù)權(quán)利要求4所述的用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法，其特征在于：步驟3中構(gòu)建待標(biāo)注目標(biāo)任務(wù)樣本集U包括：從目標(biāo)任務(wù)的未標(biāo)注樣本池中挑選N個樣本構(gòu)成集合U；其中，N值采用如下規(guī)則確定：N＝ρ*T；T為要求人工標(biāo)注的樣本個數(shù)，由本輪次標(biāo)注預(yù)算D和單個樣本的人工標(biāo)注成本C計算得到：T＝round(D/C)；ρ∈[1,5]為標(biāo)注杠桿，即最終得到的有標(biāo)注樣本數(shù)目是ρ倍于實際人工標(biāo)注的數(shù)目T。

6.根據(jù)權(quán)利要求5所述的用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法，其特征在于：步驟4中計算目標(biāo)任務(wù)樣本與替代樣本集的差異度包括：任一目標(biāo)任務(wù)樣本x_i與替代樣本集S的差異度為其中dist(·,·)計算兩個矢量的歐氏距離，z_j為替代樣本集S內(nèi)第j個樣本的特征矢量。

7.根據(jù)權(quán)利要求6所述的用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法，其特征在于：步驟5中目標(biāo)任務(wù)樣本標(biāo)注和替換包括：對待標(biāo)注目標(biāo)任務(wù)樣本集U中與替代樣本集S的差異度最大的3T/4個樣本，要求人工標(biāo)注；對剩余樣本，以概率1-T/4/(N-3T/4)取其在替代樣本集中的最相似樣本作為替代，以概率T/4/(N-3T/4)要求人工標(biāo)注。

8.根據(jù)權(quán)利要求7所述的用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法，其特征在于：步驟6中放入已標(biāo)注目標(biāo)任務(wù)樣本池是將步驟5獲得的N個帶標(biāo)注樣本放入已標(biāo)注目標(biāo)任務(wù)樣本池L。

9.根據(jù)權(quán)利要求8所述的用于遷移學(xué)習(xí)的訓(xùn)練樣本標(biāo)注成本削減方法，其特征在于：步驟7中訓(xùn)練目標(biāo)任務(wù)模型是使用當(dāng)前已標(biāo)注目標(biāo)任務(wù)樣本池L訓(xùn)練目標(biāo)任務(wù)模型。