[發明專利]一種文本情感分類方法、裝置、電子設備及存儲介質

在審

• 申請號: 202010748294.1
• 申請日: 2020-07-30
• 公開（公告）號: CN111930940A
• 公開（公告）日: 2020-11-13
• 發明（設計）人: 吳雙志;謝軍;李沐
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F40/35;G06N3/04
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 熊永強;賈允

1.一種文本情感分類方法，其特征在于，包括：

獲取待分類的目標文本，對所述目標文本進行處理，得到所述目標文本的詞向量序列；

利用預先訓練的語義編碼模型對所述詞向量序列進行處理，得到所述詞向量序列對應的詞語義向量序列以及所述目標文本的語義向量；

將所述詞向量序列、所述詞語義向量序列以及所述語義向量輸入預先訓練的情感生成模型，得到所述目標文本的情感向量，所述情感生成模型為基于注意力的神經網絡模型；

將所述語義向量和所述情感向量輸入預先訓練的情感分類模型，得到所述目標文本的情感分類結果。

2.根據權利要求1所述的方法，其特征在于，所述情感生成模型包括基于自注意力的第一神經網絡和注意力網絡；

所述將所述詞向量序列、所述詞語義向量序列以及所述語義向量輸入預先訓練的情感生成模型，得到所述目標文本的情感向量包括：

基于所述第一神經網絡對所述詞向量序列和所述詞語義向量序列進行分析，得到所述目標文本中各個詞語的詞情感向量；

根據所述目標文本中各個詞語的詞情感向量生成所述目標文本的詞情感向量序列；

基于所述注意力網絡對所述語義向量和所述詞情感向量序列進行分析，將所述詞情感向量序列聚合成所述目標文本的情感向量。

3.根據權利要求1或2所述的方法，其特征在于，所述情感分類模型包括第二神經網絡和分類網絡；

所述將所述語義向量和所述情感向量輸入預先訓練的情感分類模型，得到所述目標文本的情感分類結果包括：

基于所述第二神經網絡對所述語義向量進行處理，得到所述目標文本的分類特征向量；

基于所述分類網絡對所述分類特征向量和所述情感向量進行分析，得到所述目標文本的情感分類結果。

4.根據權利要求1或2所述的方法，其特征在于，所述語義編碼模型包括基于自注意力的第三神經網絡；

所述利用預先訓練的語義編碼模型對所述詞向量序列進行處理，得到所述詞向量序列對應的詞語義向量序列以及所述目標文本的語義向量包括：

基于所述第三神經網絡對所述詞向量序列進行處理，得到所述目標文本中各個詞語的詞語義向量；

根據所述目標文本中各個詞語的詞語義向量生成所述詞向量序列對應的詞語義向量序列；

對所述詞語義向量序列進行聚合，得到所述目標文本的語義向量。

5.根據權利要求1或2所述的方法，其特征在于，所述獲取待分類的目標文本，對所述目標文本進行處理，得到所述目標文本的詞向量序列包括：

對所述目標文本進行分詞處理，得到所述目標文本包含的多個詞語；

對所述多個詞語分別進行編碼，得到所述多個詞語的詞向量；

根據所述多個詞語的詞向量生成所述目標文本的詞向量序列。

6.根據權利要求1所述的方法，其特征在于，所述方法還包括訓練所述語義編碼模型、所述情感生成模型和所述情感分類模型的步驟；

所述訓練所述語義編碼模型、所述情感生成模型和所述情感分類模型包括：

構建預設神經網絡模型，所述預設神經網絡模型包括預設語義編碼模型、預設情感生成模型和預設情感分類模型，所述預設語義編碼模型包括基于自注意力的第三神經網絡，所述預設情感生成模型包括基于自注意力的第一神經網絡和注意力網絡，所述預設情感分類模型包括第二神經網絡和分類網絡；

獲取訓練文本集，所述訓練文本集包括多個訓練文本及其對應的情感標簽；

使用所述訓練文本集中的訓練文本對所述預設神經網絡模型進行訓練，在訓練過程中調整所述預設語義編碼模型、所述預設情感生成模型和所述預設情感分類模型的模型參數至所述預設神經網絡模型的輸出結果與訓練文本的情感標簽相匹配，得到所述語義編碼模型、所述情感生成模型和所述情感分類模型。

7.根據權利要求6所述的方法，其特征在于，所述第一神經網絡包括雙向長短時記憶網絡或者卷積神經網絡，所述第二神經網絡包括多層感知機網絡或者卷積神經網絡，所述第三神經網絡包括雙向長短時記憶網絡、循環神經網絡或者卷積神經網絡。