[發明專利]一種利用相似場景及混合注意力的多人會話情感預測方法

有效

• 申請號: 202110936166.4
• 申請日: 2021-08-16
• 公開（公告）號: CN113688204B
• 公開（公告）日: 2023-04-25
• 發明（設計）人: 榮歡;曹新宇
• 申請（專利權）人: 南京信息工程大學
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35;G06F40/242;G06N3/0442;G06N3/08
• 代理公司: 南京經緯專利商標代理有限公司 32200
• 代理人: 羅運紅

本發明公開了一種利用相似場景及混合注意力的多人會話情感預測方法，屬于文本情感預測。本發明首先從原始文本序列獲得文本情感空間映射，接著使用揭示周期性和相似規律的相似場景搜索方法，通過輸入序列找到與當前場景相對應的注意力序列；采用基于長短期記憶神經網絡的雙階段編碼?解碼結構，預測目標人物未來文本情感向量，進一步可得到未來目標人物待發布文本情感，并通過損失函數求得編碼階段和解碼階段的總損失。本發明采用文本情感空間映射和相似場景搜索方法對多人會話情感進行預測，結合相似場景搜索和混合注意力提取，通過學習有效的歷史數據，可用于長期預測，并且能夠加強模型學習的精確性和針對性，極大程度地提升了預測精度。

技術領域

本發明屬于文本情感預測，更具體地說，涉及一種利用相似場景及混合注意力的多人會話情感預測方法。

背景技術

互聯網時代，各類社交通信軟件繁多，人們利用文字進行信息互換，形成的文本往往反映了文本發布者的情感態度，這些信息都潛藏著一定社會效益和經濟效益。如果能夠有效預測文本發布者未來發布的情感態度，對于政府來說，可以及時了解民意導向并為下一步戰略實施作出調整；對于企業來說，可以及時了解市場傾向并為新產品的投放奠定良好基礎，提升經濟收益。因此，針對文本類型數據，本文將研究文本情感預測問題，同時由于人們發布的文本通常以時間序列M形式出現，因此本文還將研究時間序列M預測問題。

目前，大部分文本情感預測問題基于分類思想，通過大量標注文本訓練情感分類器，由訓練器預測新文本情感。對于深度學習方法而言，含有記憶單元的深度神經網絡被廣泛應用于文本情感分類中，例如循環神經網絡RNN，長短期記憶網絡LSTM和雙向長短期記憶網絡Bi-LSTM；除此以外，卷積神經網絡也被用于文本情感預測。

分類號：TP391的論文《聯系人中心聊天話語中的細粒度情感檢測》使用CNN從給定文本中抽取情感特征，從而對文本做情感表示，分類號：TP391的論文《文本情感：基于文本情感預測的機器學習》利用有監督機器學習模型對童話故事進行情感分類。這兩種方法無法在多人會話場景下捕捉其他參與者對目標人物的情感刺激。

在真實場景中，按時間順序發布的文本可抽象成時間序列，因此可以借鑒時間序列預測方法。具體而言包括：分類號為TP391的論文《基于混合神經網絡和注意力機制的混沌時間序列預測》，它對時間序列進行重構相空間，利用CNN提取空間特征后再用LSTM提取時空特征，能夠得到更完整的特征表示，存在注意力感知缺失，相似場景粒度分析不到位等問題；分類號為TP391的論文《基于深度學習模型DeepAR》，通過訓練歷史數據學習到一個網絡參數，再利用該參數進行預測，存在對時間序列有效歷史信息的學習效果差，錯誤傳播的影響大的問題。

基于上述工作，可以發現仍存在以下不足：在現實生活中，通過訓練分類器預測文本情感，通常是借鑒時間序列預測的思想，將文本以時間序列形式組裝，通過已知時刻已發布文本情感來推測下一時刻待發布文本情感類別。但是從時間序列預測的角度來看，現有工作仍無法應對。例如在現實生活中多人會話情景下，無法捕捉其他參與者對目標人物的情感刺激，以及對于時間序列有效歷史信息的學習效果差，相似場景粒度分析不到位，注意力感知缺失以及錯誤傳播的影響大等。

發明內容

針對現有的文本情感預測方法無法基于時間序列預測的思想采用訓練分類器進行預測，并且在多人會話情景下無法捕捉其他參與者對目標人物的情感刺激的問題，本發明提供一種利用相似場景及混合注意力的多人會話情感預測方法，采用文本情感空間映射和相似場景搜索方法對多人會話情感進行預測，能夠加強模型學習的精確性和針對性，極大程度地提升了預測精度，減小誤差。

為解決上述問題，本發明采用如下的技術方案。

一種利用相似場景及混合注意力的多人會話情感預測方法，包括如下步驟：