[發(fā)明專(zhuān)利]一種面向多類(lèi)別的二次情感分類(lèi)方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201910396633.1
• 申請(qǐng)日: 2019-05-14
• 公開(kāi)（公告）號(hào): CN110175237B
• 公開(kāi)（公告）日: 2023-02-03
• 發(fā)明（設(shè)計(jì)）人: 吳雯;紀(jì)雨;班啟敏;賀樑
• 申請(qǐng)（專(zhuān)利權(quán)）人: 華東師范大學(xué)
• 主分類(lèi)號(hào): G06F16/35
• 分類(lèi)號(hào): G06F16/35;G06Q30/0202
• 代理公司: 上海藍(lán)迪專(zhuān)利商標(biāo)事務(wù)所(普通合伙) 31215
• 代理人: 徐筱梅;張翔

1.一種面向多類(lèi)別的二次情感分類(lèi)方法，其特征在于，該方法包括以下具體步驟：

步驟1：獲取用戶和物品的交互信息

使用k維向量L_u表示用戶u的興趣信息，使用k維向量L_p表示物品p的屬性信息，其中k的取值范圍在100到300之間；將L_u和L_p點(diǎn)乘得到用戶u和物品p的交互信息I_up；I_up是k維向量，每一維表示用戶u對(duì)物品p的對(duì)應(yīng)屬性的滿意程度；

步驟2：基于用戶的粗分類(lèi)

使用n維向量C_u表示用戶u的類(lèi)別偏好信息，其中n等于類(lèi)別總數(shù)；將I_up和C_u送入深度神經(jīng)網(wǎng)絡(luò)得到基于用戶的粗分類(lèi)結(jié)果R_u，具體計(jì)算如下式(1)-(3)；R_u是n維向量，每一維表示從用戶角度看，對(duì)用戶u給物品p所寫(xiě)的評(píng)論r_up屬于對(duì)應(yīng)類(lèi)別的相對(duì)可能性；

R_u1＝Dropout(Relu(W_u1*[I_up；C_u]+b_u1)) (1)

R_u2＝Dropout(Relu(W_u2*R_u1+b_u2)) (2)

R_u＝W_u3*R_u2+b_u3 (3)

其中，Dropout是正則化手段，Relu(x)＝max(0,x)是激活函數(shù)，W_u1、W_u2和W_u3是權(quán)重矩陣，b_u1、b_u2和b_u3是偏置項(xiàng)，R_u1是深度神經(jīng)網(wǎng)絡(luò)第一層的輸出，R_u2是深度神經(jīng)網(wǎng)絡(luò)第二層的輸出；步驟3：基于物品的粗分類(lèi)

使用n維向量C_p表示物品p的類(lèi)別偏好信息，其中n等于類(lèi)別總數(shù)；將I_up和C_p送入深度神經(jīng)網(wǎng)絡(luò)得到基于物品的粗分類(lèi)結(jié)果R_p，具體計(jì)算如下式(4)-(6)；R_p是n維向量，每一維表示從物品角度看，對(duì)用戶u給物品p所寫(xiě)的評(píng)論r_up屬于對(duì)應(yīng)類(lèi)別的相對(duì)可能性；

R_p1＝Dropout(Relu(W_p1*[I_up；C_p]+b_p1)) (4)

R_p2＝Dropout(Relu(W_p2*R_p1+b_p2)) (5)

R_p＝W_p3*R_p2+b_p3 (6)

其中，Dropout是正則化手段，Relu(x)＝max(0,x)是激活函數(shù)，W_p1、W_p2和W_p3是權(quán)重矩陣，b_p1、b_p2和b_p3是偏置項(xiàng)，R_p1是深度神經(jīng)網(wǎng)絡(luò)第一層的輸出，R_p2是深度神經(jīng)網(wǎng)絡(luò)第二層的輸出；

步驟4：評(píng)論數(shù)據(jù)預(yù)處理

利用word2vec將評(píng)論r_up中的詞進(jìn)行向量化，每一個(gè)詞用g維向量表示，其中g(shù)的取值范圍在100到200之間；

步驟5：詞級(jí)別信息提取

將評(píng)論r_up進(jìn)行分句，對(duì)每個(gè)句子進(jìn)行如下處理：將句子中的詞所對(duì)應(yīng)的向量按序送入雙向LSTM中，使用雙向LSTM對(duì)應(yīng)位置的輸出表示該位置的詞所包含的信息；

步驟6：句子表征生成

使用z維向量Q_u表示用戶u的用詞偏好信息，使用z維向量Q_p表示物品p的受詞偏好信息，其中z的取值范圍在100到300之間；使用用戶和物品的交互信息I_up、用戶粗分類(lèi)結(jié)果R_u、用戶用詞偏好信息Q_u、用戶類(lèi)別偏好信息C_u、物品粗分類(lèi)結(jié)果R_p、物品受詞偏好信息Q_p及物品類(lèi)別偏好信息C_p作為注意力機(jī)制，對(duì)每一個(gè)句子中的詞賦予不同的權(quán)重，最終對(duì)每一個(gè)句子中的所有詞信息進(jìn)行加權(quán)求和，得到的結(jié)果用來(lái)表征對(duì)應(yīng)的句子，具體公式如下式(7)-(10)：

A_up＝[I_up；R_u；Q_u；C_u；R_p；Q_p；C_p] (10)

其中S_i表示評(píng)論r_up的第i個(gè)句子，l_i表示第i個(gè)句子的長(zhǎng)度，hⁱ_j用來(lái)表示評(píng)論r_up中的第i個(gè)句子中的第j個(gè)詞所包含的信息，表示第i個(gè)句子中的第j個(gè)詞的權(quán)重，A_up表示注意力向量，e是權(quán)重計(jì)算函數(shù)，W_h和W_a是權(quán)重句子，v是權(quán)重向量，v^T表示v的轉(zhuǎn)置；

步驟7：句子級(jí)別信息提取

將評(píng)論r_up中的每一句話的表征按序送入雙向LSTM中，使用雙向LSTM對(duì)應(yīng)位置的輸出表示該位置的句子所包含的信息；

步驟8：評(píng)論表征生成

使用用戶和物品的交互信息I_up、用戶粗分類(lèi)結(jié)果R_u、用戶用詞偏好信息Q_u、用戶類(lèi)別偏好信息C_u、物品粗分類(lèi)結(jié)果R_p、物品受詞偏好信息Q_p、物品類(lèi)別偏好信息C_p作為注意力機(jī)制，對(duì)評(píng)論r_up中的每一個(gè)句子賦予不同的權(quán)重，最終對(duì)評(píng)論r_up中的所有句子的表征進(jìn)行加權(quán)求和，得到的結(jié)果d用來(lái)表征評(píng)論；

步驟9：細(xì)分類(lèi)

使用評(píng)論表征生成細(xì)分類(lèi)結(jié)果F_up；F_up是n維向量，每一維表示從評(píng)論信息看，評(píng)論r_up屬于對(duì)應(yīng)類(lèi)別的相對(duì)可能性,其中n等于類(lèi)別總數(shù)；具體公式如下式(11)：

F_up＝W_md+b_m (11)

其中W_m是權(quán)重矩陣，b_m是偏置項(xiàng)，d是評(píng)論結(jié)果；

步驟10：預(yù)測(cè)

將用戶粗分類(lèi)結(jié)果R_u、物品粗分類(lèi)結(jié)果R_p和細(xì)分類(lèi)結(jié)果F_up相加得到最終結(jié)果Final，公式如下式(12)；Final是n為向量，每一維表示評(píng)論r_up屬于對(duì)應(yīng)類(lèi)別的相對(duì)可能性，其中n等于類(lèi)別總數(shù)；取相對(duì)可能性最大的類(lèi)別作為最終預(yù)測(cè)類(lèi)別；

Final＝R_u+R_p+F_up (12)。