[發明專利]回復消息生成方法、系統、計算機設備及存儲介質

在審

• 申請號: 202010949276.X
• 申請日: 2020-09-10
• 公開（公告）號: CN112214585A
• 公開（公告）日: 2021-01-12
• 發明（設計）人: 王振偉;楊敏;李成明;姜青山
• 申請（專利權）人: 中國科學院深圳先進技術研究院
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F16/35;G06F40/216;G06F40/284;G06F40/289;G06F40/30
• 代理公司: 深圳市威世博知識產權代理事務所(普通合伙) 44280
• 代理人: 黎堅怡

1.一種回復消息生成方法，其特征在于，所述方法包括：

獲取對話消息，所述對話消息帶有情感標簽；

對所述對話消息進行分詞和嵌入，得到輸入語義特征向量；

將所述輸入語義特征向量和情感標簽輸入語義-情感記憶模塊，得到情感記憶值；

利用所述輸入語義特征向量和所述情感記憶值進行預測，生成回復消息。

2.根據權利要求1所述的方法，其特征在于，

所述語義-情感記憶模塊包括語義記憶層和情感記憶層；

所述語義記憶層包括K個對話消息語義向量，每個所述對話消息語義向量在所述情感記憶層對應N個情感類，每個所述情感類存儲一個情感記憶值。

3.根據權利要求2所述的方法，其特征在于，

所述將所述輸入語義特征向量和情感標簽輸入語義-情感記憶模塊，得到情感記憶值，包括：

在所述語義記憶層搜索與所述輸入語義特征向量相似度最高的對話消息語義向量；

在所述情感記憶層搜索所述對話消息語義向量對應的、與所述情感標簽為相同情感類型的情感類，獲取所述情感類對應的情感記憶值。

4.根據權利要求2所述的方法，其特征在于，

所述K個對話消息語義向量為多個對話消息語義特征向量被聚類為K個聚類簇的簇中心，每個所述對話消息語義向量對應多個回復消息語義特征向量，且每個所述對話消息語義向量對應的多個所述回復消息語義特征向量根據情感類型被分類為N個情感類，每個所述情感類以類中回復消息語義特征向量的平均向量為情感記憶值。

5.根據權利要求1所述的方法，其特征在于，

所述利用所述輸入語義特征向量和所述情感記憶值進行預測，生成回復消息包括：

將所述輸入語義特征向量和所述情感記憶值進行合并；

將合并結果作為解碼器的初始狀態，利用所述解碼器逐步預測每個時間步的回復單詞的概率；

基于所述概率確定每個時間步的最終回復單詞，所有所述最終回復單詞按時間順序組合得到所述回復消息。

6.根據權利要求5所述的方法，其特征在于，

所述利用所述解碼器逐步預測每個時間步的回復單詞的概率包括：

每個時間步以所述情感標簽的初始化向量作為所述解碼器的額外輸入，更新當前時間步的隱藏層狀態，并利用全局上下文向量預測當前時間步的回復單詞的概率。

7.根據權利要求4所述的方法，其特征在于，

在所述獲取對話消息之前，所述方法包括：

利用語料庫訓練回復消息生成網絡，所述語料庫包括多組帶有情感標簽的對話消息及對應的真實回復，所述回復消息生成網絡包括第一子網絡和第二子網絡，所述第一子網絡用于為所述帶有情感標簽的對話消息生成回復消息，所述第二子網絡用于對所述真實回復進行重構。

8.根據權利要求7所述的方法，其特征在于，

所述方法包括：

在對所述回復消息生成網絡進行訓練時，所述第一子網絡將所述語料庫中的對話消息轉換為訓練語料對話向量，所述第二子網絡將所述語料庫中的真實回復轉換為訓練語料回復向量，依次將每對所述訓練語料對話向量和訓練語料回復向量寫入所述語義-情感記憶模塊；

將所述訓練語料對話向量作為對話消息語義特征向量調整所述K個聚類簇，以更新所述對話消息語義向量；

將所述訓練語料回復向量作為所述回復消息語義特征向量，重新計算每個所述情感類中的回復消息語義特征向量的平均向量，以更新所述情感記憶值。

9.一種回復消息生成系統，其特征在于，所述系統包括：

獲取模塊，用于獲取對話消息，所述對話消息帶有情感標簽；

分詞嵌入模塊，用于對所述對話消息進行分詞和嵌入，得到輸入語義特征向量；

語義-情感記憶模塊，用于存儲情感記憶值；

情感記憶值獲取模塊，用于將所述輸入語義特征向量和情感標簽輸入語義-情感記憶模塊，得到情感記憶值；

預測模塊，用于利用所述輸入語義特征向量和所述情感記憶值進行預測，生成回復消息。