[發(fā)明專利]一種利用目標(biāo)知識(shí)增強(qiáng)模型的情感分類方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202110605317.8
• 申請(qǐng)日: 2021-05-31
• 公開（公告）號(hào): CN113220887B
• 公開（公告）日: 2022-03-15
• 發(fā)明（設(shè)計(jì)）人: 曾碧卿;楊健豪;陳嘉濤;鄧會(huì)敏
• 申請(qǐng)（專利權(quán)）人: 華南師范大學(xué);廣東農(nóng)工商職業(yè)技術(shù)學(xué)院
• 主分類號(hào): G06F16/35
• 分類號(hào): G06F16/35;G06F40/30;G06F40/211;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 廣州駿思知識(shí)產(chǎn)權(quán)代理有限公司 44425
• 代理人: 張金龍

本發(fā)明涉及一種利用目標(biāo)知識(shí)增強(qiáng)模型的情感分類方法。本發(fā)明所述的利用目標(biāo)知識(shí)增強(qiáng)模型的情感分類方法包括：構(gòu)建目標(biāo)知識(shí)增強(qiáng)模型，目標(biāo)知識(shí)增強(qiáng)模型包括輸入層、嵌入層、多頭自注意力層、知識(shí)注意力層、隱藏層和輸出層；根據(jù)待預(yù)測(cè)的上下文中的目標(biāo)詞，獲取每個(gè)目標(biāo)詞對(duì)應(yīng)的知識(shí)句子；將上下文與每個(gè)知識(shí)句子輸入至目標(biāo)知識(shí)增強(qiáng)模型，得到上下文的情感分類結(jié)果。本發(fā)明所述的利用目標(biāo)知識(shí)增強(qiáng)模型的情感分類方法，對(duì)中文評(píng)論文本中的目標(biāo)詞進(jìn)行外部知識(shí)引入，并提出了知識(shí)注意力機(jī)制，對(duì)引入的外部知識(shí)動(dòng)態(tài)分配權(quán)重，彌補(bǔ)了目標(biāo)詞本身信息量不足的缺陷，具有分類準(zhǔn)確度高的優(yōu)點(diǎn)。

技術(shù)領(lǐng)域

本發(fā)明涉及情感分類技術(shù)領(lǐng)域，特別是涉及一種利用目標(biāo)知識(shí)增強(qiáng)模型的情感分類方法。

背景技術(shù)

傳統(tǒng)的方面級(jí)情感分類方法通常采用機(jī)器學(xué)習(xí)方法，如支持向量機(jī)(SVM)，需要人工特征，包括句法分析特征和詞典特征。

與傳統(tǒng)的機(jī)器學(xué)習(xí)方法相比，神經(jīng)網(wǎng)絡(luò)可以從文本中自動(dòng)獲取重要的語(yǔ)義信息，避免了大量的人工操作。因此，它被廣泛地應(yīng)用于方面級(jí)的情感分類。神經(jīng)網(wǎng)絡(luò)能夠從文本中自動(dòng)捕捉重要的情感特征，因此在方面級(jí)情感分類中得到了廣泛的應(yīng)用。

Tang等人使用兩個(gè)長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)(LSTM)來(lái)捕捉一個(gè)方面前后的情緒特征。Wang等人提出了一個(gè)具有注意機(jī)制的LSTM，用于捕捉上下文中的情緒特征。Ma等人提出了兩個(gè)基于注意的LSTM網(wǎng)絡(luò)，用于交互生成句子和體表示，并將這些表示連接起來(lái)進(jìn)行預(yù)測(cè)。Chen等人使用門控遞歸單元(GRU)網(wǎng)絡(luò)來(lái)整合LSTM的隱藏狀態(tài)。Zeng等人利用局部語(yǔ)境注意機(jī)制來(lái)捕捉評(píng)論文本中的局部語(yǔ)境特征。

Wagner等人從多個(gè)外部情感詞典中訓(xùn)練支持向量機(jī)進(jìn)行情緒分類任務(wù)。kirithenko等人通過(guò)人工編寫和處理，創(chuàng)建了一個(gè)領(lǐng)域特定的情感詞典，為支持向量機(jī)提供了額外的領(lǐng)域情感知識(shí)。Teng等人使用情感詞典計(jì)算每個(gè)情感詞的極性，并使用LSTM計(jì)算情感詞的權(quán)重。最后，利用情感詞的加權(quán)和來(lái)預(yù)測(cè)句子的情感極性。Yang等人提出了一種基于方面的情感分類的類人分層策略。Chen等人用自建的領(lǐng)域情感知識(shí)圖作為輔助信息來(lái)衡量情感詞與目標(biāo)詞之間的情感極性。

現(xiàn)有的方法可以很好地利用與情感詞相關(guān)的輔助信息，提高模型的性能。然而，現(xiàn)有的方法只關(guān)注情感信息，而忽略了目標(biāo)詞中包含的重要語(yǔ)義信息。此外，傳統(tǒng)的情感詞典和情感知識(shí)圖作為輔助信息，需要針對(duì)特定的數(shù)據(jù)集手工構(gòu)建。

發(fā)明內(nèi)容

基于此，本發(fā)明的目的在于，提供一種利用目標(biāo)知識(shí)增強(qiáng)模型的情感分類方法，通過(guò)構(gòu)建目標(biāo)知識(shí)增強(qiáng)模型，對(duì)中文評(píng)論文本中的目標(biāo)詞進(jìn)行外部知識(shí)引入，并提出了知識(shí)注意力機(jī)制，對(duì)引入的外部知識(shí)動(dòng)態(tài)分配權(quán)重，彌補(bǔ)了目標(biāo)詞本身信息量不足的缺陷，其具有分類準(zhǔn)確度高的優(yōu)點(diǎn)。

第一方面，本發(fā)明提供了一種利用目標(biāo)知識(shí)增強(qiáng)模型的情感分類方法，包括以下步驟：

構(gòu)建目標(biāo)知識(shí)增強(qiáng)模型，所述目標(biāo)知識(shí)增強(qiáng)模型包括輸入層、嵌入層、多頭自注意力層、知識(shí)注意力層、隱藏層和輸出層；

根據(jù)待預(yù)測(cè)的上下文中的目標(biāo)詞，獲取每個(gè)所述目標(biāo)詞對(duì)應(yīng)的知識(shí)句子；

將所述上下文與每個(gè)所述知識(shí)句子輸入至所述輸入層中，對(duì)所述上下文和所述知識(shí)句子進(jìn)行拼接，得到輸入層的輸出序列；

將所述輸入層的輸出序列輸入至所述嵌入層中，將每個(gè)單詞或標(biāo)記映射到向量空間，得到上下文的輸出向量表示和知識(shí)句子的輸出向量表示；

將所述上下文的輸出向量表示和所述知識(shí)句子的輸出向量表示輸入至所述多頭自注意力層中，計(jì)算所述上下文和所述知識(shí)句子中每個(gè)單詞的注意力分?jǐn)?shù)，得到上下文的多頭輸出序列和知識(shí)句子的多頭輸出序列，以及，得到所述上下文中每個(gè)字的權(quán)重；