[發(fā)明專利]一種基于特征表示學(xué)習(xí)的跨領(lǐng)域情感分類方法及系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 202011185607.3
• 申請(qǐng)日: 2020-10-30
• 公開（公告）號(hào): CN112199505B
• 公開（公告）日: 2022-06-03
• 發(fā)明（設(shè)計(jì)）人: 廖祥文;林誠燕;鮑亮;張艷茹;徐慶
• 申請(qǐng)（專利權(quán)）人: 福州大學(xué)
• 主分類號(hào): G06F16/35
• 分類號(hào): G06F16/35;G06F40/30;G06N3/04
• 代理公司: 福州元?jiǎng)?chuàng)專利商標(biāo)代理有限公司 35100
• 代理人: 錢莉;蔡學(xué)俊

1.一種基于特征表示學(xué)習(xí)的跨領(lǐng)域情感分類方法，其特征在于，包括以下步驟：

對(duì)源領(lǐng)域文本與目標(biāo)領(lǐng)域文本進(jìn)行特征化處理，得到源領(lǐng)域初始文本向量與目標(biāo)領(lǐng)域初始文本向量；

將源領(lǐng)域初始文本向量與目標(biāo)領(lǐng)域初始文本向量分別輸入特征表示學(xué)習(xí)模塊中，得到源領(lǐng)域文本特征向量與目標(biāo)領(lǐng)域文本特征向量；

將源領(lǐng)域文本特征向量與目標(biāo)領(lǐng)域文本特征向量輸入特征表示強(qiáng)化模塊中，并進(jìn)行訓(xùn)練；

利用訓(xùn)練好的特征表示強(qiáng)化模塊對(duì)目標(biāo)領(lǐng)域的文本特征向量進(jìn)行分類預(yù)測(cè)；

所述特征表示強(qiáng)化模塊為由兩個(gè)分類器組成的對(duì)抗型網(wǎng)絡(luò)，所述訓(xùn)練的過程包括三個(gè)階段：

階段一：同時(shí)訓(xùn)練特征表示學(xué)習(xí)模塊與特征表示強(qiáng)化模塊，采用源領(lǐng)域的樣本數(shù)據(jù)進(jìn)行訓(xùn)練，采用目標(biāo)領(lǐng)域的樣本數(shù)據(jù)進(jìn)行測(cè)試；

階段二：固定特征表示學(xué)習(xí)模塊的參數(shù)，對(duì)特征表示強(qiáng)化模塊進(jìn)行優(yōu)化訓(xùn)練；訓(xùn)練特征表示強(qiáng)化模塊中的兩個(gè)分類器F1、F2，將目標(biāo)領(lǐng)域的樣本數(shù)據(jù)經(jīng)過預(yù)處理后送入特征表示學(xué)習(xí)模塊得到文本特征表示后分別輸入到兩個(gè)分類器，得到兩個(gè)分類概率，通過最大化分類器的分類差異，即最大化分類概率的差異，檢測(cè)出源領(lǐng)域邊界之外的目標(biāo)域樣本；同時(shí)使用源領(lǐng)域帶情感極性標(biāo)注的樣本對(duì)兩個(gè)分類器進(jìn)行情感分類訓(xùn)練，以在檢測(cè)出源域邊界之外的目標(biāo)域樣本的同時(shí)保證分類器正確情感分類的性能；

階段三：固定特征表示強(qiáng)化模塊的參數(shù)，對(duì)特征表示學(xué)習(xí)模塊進(jìn)行優(yōu)化訓(xùn)練，采用源領(lǐng)域的樣本數(shù)據(jù)進(jìn)行訓(xùn)練，采用目標(biāo)領(lǐng)域的樣本數(shù)據(jù)進(jìn)行測(cè)試，使得目標(biāo)域樣本特征與源領(lǐng)域樣本之間的差異最小化，實(shí)現(xiàn)領(lǐng)域的對(duì)齊。

2.根據(jù)權(quán)利要求1所述的一種基于特征表示學(xué)習(xí)的跨領(lǐng)域情感分類方法，其特征在于，所述特征表示學(xué)習(xí)模塊包括三個(gè)并行的CNN網(wǎng)絡(luò)，將源領(lǐng)域初始文本向量與目標(biāo)領(lǐng)域初始文本分別送入三個(gè)CNN網(wǎng)絡(luò)中，分別得到兩組三個(gè)不同的特征圖，分別將兩組三個(gè)不同的特征圖進(jìn)行拼接，對(duì)應(yīng)得到源領(lǐng)域文本特征向量與目標(biāo)領(lǐng)域文本特征向量。

3.根據(jù)權(quán)利要求2所述的一種基于特征表示學(xué)習(xí)的跨領(lǐng)域情感分類方法，其特征在于，階段一的損失函數(shù)如下：

L₁＝L_cls+λ₁L_k1；

其中，

式中，λ₁表示KL散度損失權(quán)重系數(shù)，n_s表示源領(lǐng)域中已標(biāo)記樣本的數(shù)量，K表示情感類別數(shù)，表示樣本i對(duì)應(yīng)的真實(shí)情感結(jié)果，表示模型分類器F₁對(duì)樣本i預(yù)測(cè)的情感結(jié)果，表示模型分類器F₂對(duì)樣本i預(yù)測(cè)的情感結(jié)果，G(*)表示特征學(xué)習(xí)模塊的特征映射函數(shù)，表示源領(lǐng)域樣本，表示目標(biāo)領(lǐng)域樣本，g_s(i)表示源領(lǐng)域樣本特征分布，g_t(i)表示目標(biāo)領(lǐng)域樣本特征分布，n_t表示目標(biāo)領(lǐng)域樣本數(shù)，g′_s表示源領(lǐng)域樣本均值特征分布，g′_t表示目標(biāo)領(lǐng)域均值特征分布。

4.根據(jù)權(quán)利要求3所述的一種基于特征表示學(xué)習(xí)的跨領(lǐng)域情感分類方法，其特征在于，階段二的損失函數(shù)如下：

L₂＝L_cls-λ₂L_dis；

其中，

式中，λ₂表示概率差異損失的權(quán)重系數(shù)，n_s表示源領(lǐng)域樣本數(shù)，K表示情感類別數(shù)，表示樣本i對(duì)應(yīng)的真實(shí)情感結(jié)果，表示模型分類器F₁對(duì)樣本i預(yù)測(cè)的情感結(jié)果，表示模型分類器F₂對(duì)樣本i預(yù)測(cè)的情感結(jié)果，G(*)表示特征學(xué)習(xí)模塊的特征映射函數(shù)，表示源領(lǐng)域樣本，E_x～Dt[*]表示樣本在目標(biāo)領(lǐng)域上的期望誤差，d(*)表示二分類平均絕對(duì)概率差，p₁(y|x)表示分類器F₁的條件概率，p₂(y|x)表示分類器F₂的條件概率，表示樣本x在分類器F₁上分類概率，表示樣本x在分類器F₂上分類概率。