[發(fā)明專利]基于圖卷積網(wǎng)絡(luò)的文本情感分析方法、系統(tǒng)和電子裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202010856600.3
• 申請(qǐng)日: 2020-08-24
• 公開（公告）號(hào): CN112035661A
• 公開（公告）日: 2020-12-04
• 發(fā)明（設(shè)計(jì)）人: 鄒月嫻;蒲璐汶
• 申請(qǐng)（專利權(quán)）人: 北京大學(xué)深圳研究生院
• 主分類號(hào): G06F16/35
• 分類號(hào): G06F16/35;G06F40/211;G06F40/289;G06F40/30;G06N3/04
• 代理公司: 北京億騰知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11309
• 代理人: 陳霽

1.一種基于圖卷積網(wǎng)絡(luò)的文本情感分析方法，其特征在于，包括：

對(duì)輸入的文本序列進(jìn)行分詞；

按照所述文本序列順序?qū)⒚總€(gè)所述分詞轉(zhuǎn)化為對(duì)應(yīng)的詞嵌入；

提取每個(gè)所述詞嵌入的正向語義特征和反向語義特征，將相同位置的所述正向語義特征和反向語義特征組合，獲得每個(gè)詞嵌入的上下文語義特征；

根據(jù)所述每個(gè)詞嵌入的上下文語義特征，計(jì)算任意兩個(gè)詞嵌入之間的語義關(guān)系值，獲得連接矩陣；根據(jù)所述連接矩陣解析所述文本序列的依存句法樹；

以所述依存句法樹為圖進(jìn)行圖卷積運(yùn)算，獲得所述依存句法樹ROOT節(jié)點(diǎn)位置的依存向量；

將所述依存句法樹中ROOT節(jié)點(diǎn)位置的依存向量進(jìn)行情感極性分類打分，確定所述文本序列的情感極性類別。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述按照所述文本序列順序?qū)⒚總€(gè)所述分詞轉(zhuǎn)化為對(duì)應(yīng)的詞嵌入，包括：

按照所述文本序列順序?qū)⒚總€(gè)所述分詞中離散的高頻詞轉(zhuǎn)為低維連續(xù)向量，將所述每個(gè)分詞中離散的低頻詞轉(zhuǎn)為特殊符號(hào)對(duì)應(yīng)的低維連續(xù)向量，所述低維連續(xù)向量為每個(gè)所述分詞對(duì)應(yīng)的詞嵌入；詞嵌入層使用Glove向量進(jìn)行初始化，維度為300。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述提取每個(gè)所述詞嵌入的正向語義特征和反向語義特征，將相同位置的所述正向語義特征和反向語義特征組合，獲得每個(gè)詞嵌入的上下文語義特征，包括：

將每個(gè)所述詞嵌入順序輸入雙向LSTM網(wǎng)絡(luò)；

其中，所述雙向LSTM網(wǎng)絡(luò)中的正向LSTM網(wǎng)絡(luò)提取每個(gè)詞嵌入正向的語義特征；

所述雙向LSTM網(wǎng)絡(luò)中的反向LSTM網(wǎng)絡(luò)提取每個(gè)詞嵌入反方向的語義特征；

將相同位置上的所述每個(gè)詞嵌入的正向語義特征和反向語義特征組合，輸出每個(gè)所述詞嵌入的上下文語義特征。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述每個(gè)詞嵌入的上下文語義特征，計(jì)算任意兩個(gè)詞嵌入之間的語義關(guān)系值，獲得連接矩陣；根據(jù)所述連接矩陣解析所述文本序列的依存句法樹，包括：

根據(jù)每個(gè)所述詞嵌入的上下文語義特征，通過多層感知機(jī)逐個(gè)計(jì)算任意兩個(gè)詞嵌入之間的語義關(guān)系值，得到連接矩陣；

以每個(gè)所述詞嵌入為節(jié)點(diǎn)，根據(jù)所述連接矩陣的每一個(gè)語義關(guān)系值解析兩個(gè)節(jié)點(diǎn)之間的關(guān)系，確定在依存句法樹中對(duì)應(yīng)的兩個(gè)節(jié)點(diǎn)之間是否連線，根據(jù)連線連接所有節(jié)點(diǎn)，得到所述文本序列的依存句法樹。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，以所述依存句法樹為圖進(jìn)行圖卷積運(yùn)算，獲得所述依存句法樹ROOT節(jié)點(diǎn)位置的依存向量，包括：

以所述依存句法樹為圖輸入一個(gè)圖卷積網(wǎng)絡(luò),所述圖卷積網(wǎng)絡(luò)以所述每個(gè)詞嵌入的上下文語義特征作為所述依存句法樹每個(gè)節(jié)點(diǎn)初始狀態(tài)，以所述依存句法樹中的ROOT節(jié)點(diǎn)為結(jié)束標(biāo)識(shí)，對(duì)所述依存句法樹進(jìn)行圖卷積運(yùn)算，輸出所述依存句法樹ROOT節(jié)點(diǎn)位置的依存向量。

6.根據(jù)權(quán)利要求1-5之一所述的方法，其特征在于，所述方法還包括訓(xùn)練步驟：

將訓(xùn)練集的文本序列進(jìn)行分詞，將各個(gè)分詞結(jié)果序列與其句子整體對(duì)應(yīng)的情感極性類別配對(duì)，組成文本序列，情感極性類別對(duì)的形式；

以訓(xùn)練集的文本序列為輸入，以對(duì)應(yīng)的情感極性類別為輸出，使用分類的交叉熵作為損失函數(shù)，優(yōu)化器使用Adam，進(jìn)行整體訓(xùn)練，獲得訓(xùn)練好的基于圖卷積網(wǎng)絡(luò)的文本情感分析模型。

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，在所述進(jìn)行整體訓(xùn)練之前還包括：

對(duì)圖卷積網(wǎng)絡(luò)單獨(dú)進(jìn)行訓(xùn)練，獲得訓(xùn)練好的圖卷積網(wǎng)絡(luò)；

使用Glove向量來初始化詞嵌入層，所述嵌入層維度為300。