[發明專利]即時通訊過程中的對話消息處理方法、裝置及設備

有效

• 申請號: 201910521706.5
• 申請日: 2019-06-17
• 公開（公告）號: CN110413744B
• 公開（公告）日: 2023-06-23
• 發明（設計）人: 楊明暉
• 申請（專利權）人: 創新先進技術有限公司
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F16/35;G06N3/0442;G06N3/045;H04L51/04;H04L51/216
• 代理公司: 北京億騰知識產權代理事務所(普通合伙) 11309
• 代理人: 張明;周良玉

1.一種即時通訊過程中的對話消息處理方法，包括：

接收用戶在第一會話中輸入的第一對話消息；

獲取所述第一會話中的多條歷史對話消息；

將所述第一對話消息以及所述多條歷史對話消息輸入對話解析模型，以預測所述第一對話消息的消息類型以及所述第一對話消息與各條歷史對話消息之間的關聯度；

當所述消息類型為回復類型時，基于所述關聯度，從所述多條歷史對話消息中選取出所述第一對話消息的關聯消息；

將所述第一對話消息與所述關聯消息進行關聯存儲；

所述對話解析模型包括底層網絡部分和上層網絡部分，所述上層網絡部分包括第一上層部分和第二上層部分；

所述消息類型通過所述底層網絡部分和所述第一上層部分預測；所述關聯度通過所述底層網絡部分和所述第二上層部分預測。

2.根據權利要求1所述的方法，所述底層網絡部分包括Embedding層和深度學習網絡層；所述第一上層部分包括Softmax層，所述第二上層部分至少包括全連接層。

3.根據權利要求2所述的方法，所述深度學習網絡包括以下任一種：雙向長短期記憶網絡BiLSTM以及LSTM-CRF。

4.根據權利要求1所述的方法，其中，所述對話解析模型通過以下步驟訓練得到：

收集第一樣本集；所述第一樣本集中的樣本包括樣本對話消息以及第一標簽值；所述第一標簽值指示所述樣本對話消息的消息類型；所述消息類型至少包括提問類型和回復類型；

收集第二樣本集；所述第二樣本集包括第一樣本消息、第二樣本消息以及第二標簽值，所述第一樣本消息為回復類型的消息；所述第二樣本消息為提問類型的消息；所述第二標簽值指示所述第二樣本消息與所述第一樣本消息的關聯度；

使用所述第一樣本集以及所述第二樣本集，交替訓練所述對話解析模型。

5.根據權利要求4所述的方法，

所述使用所述第一樣本集以及所述第二樣本集，交替訓練所述對話解析模型，包括：

使用所述第一樣本集，訓練所述底層網絡部分和所述第一上層部分；

使用所述第二樣本集，訓練所述底層網絡部分和所述第二上層部分。

6.根據權利要求4所述的方法，

當所述第二樣本消息基于所述第一樣本消息引用過的消息確定時，所述關聯度為指示所述第二標簽值為正例標簽的第一數值；

當所述第二樣本消息基于所述第一樣本消息未引用過的消息確定時，所述關聯度為指示所述第二標簽值為負例標簽的第二數值。

7.根據權利要求1所述的方法，所述關聯度包括以下任一種：余弦相似度、歐式距離以及曼哈頓距離。

8.一種即時通訊過程中的對話消息處理裝置，包括：

接收單元，用于接收用戶在第一會話中輸入的第一對話消息；

獲取單元，用于獲取所述第一會話中的多條歷史對話消息；

輸入單元，用于將所述接收單元接收的所述第一對話消息以及所述獲取單元獲取的所述多條歷史對話消息輸入對話解析模型，以預測所述第一對話消息的消息類型以及所述第一對話消息與各條歷史對話消息之間的關聯度；

選取單元，用于當所述消息類型為回復類型時，基于所述關聯度，從所述多條歷史對話消息中選取出所述第一對話消息的關聯消息；

存儲單元，用于將所述接收單元接收的所述第一對話消息與所述選取單元選取的所述關聯消息進行關聯存儲；

所述對話解析模型包括底層網絡部分和上層網絡部分，所述上層網絡部分包括第一上層部分和第二上層部分；

所述消息類型通過所述底層網絡部分和所述第一上層部分預測；所述關聯度通過所述底層網絡部分和所述第二上層部分預測。

9.根據權利要求8所述的裝置，所述底層網絡部分包括Embedding層和深度學習網絡層；所述第一上層部分包括Softmax層，所述第二上層部分至少包括全連接層。