[發明專利]在線訓練模型的方法、裝置、設備及存儲介質

有效

• 申請號: 201910603432.4
• 申請日: 2019-07-05
• 公開（公告）號: CN110457449B
• 公開（公告）日: 2023-07-11
• 發明（設計）人: 姚磊;應亦豐;李娜;張哲
• 申請（專利權）人: 創新先進技術有限公司
• 主分類號: G06F18/214
• 分類號: G06F18/214;G06F16/332;G06F16/33;G06F40/289;G06F40/30
• 代理公司: 北京國昊天誠知識產權代理有限公司 11315
• 代理人: 許振新;朱文杰

本申請實施例提供了一種在線訓練模型的方法、裝置、設備及存儲介質，涉及人工智能技術領域。該方法包括：接收當前會話的發起方發送的會話消息；基于當前會話的上下文信息對會話消息進行標注，得到會話消息的標注意圖；通過意圖識別模型對會話消息進行意圖識別，得到會話消息的識別意圖；基于標注意圖與識別意圖之間的差異對意圖識別模型的參數進行調整，以使該差異小于第一預定閾值。本申請實施例的技術方案能夠結合上下文對會話內容進行標注，實時地對模型的預測結果進行反饋，從而能夠實時地優化模型。

技術領域

本申請涉及人工智能技術領域，尤其涉及一種在線訓練模型的方法、在線訓練模型的裝置、在線訓練模型的設備以及計算機可讀存儲介質。

背景技術

隨著NLU(Natural?Language?Understanding，自然語言理解)技術的發展，人機會話技術的應用也越來越廣泛。

人機會話模型是基于NLU技術得到的智能會話模型，該模型能夠代替人工與對方進行溝通。在一種技術方案中，在人機會話結束后，獲取人機會話中多個輪次的會話消息，對每個輪次的會話消息進行獨立標注，基于標注的會話消息對人機會話模型進行訓練。但是，在這種技術方案中，一方面，沒有考慮到上下文的信息，難以準確地對會話內容進行標注；另一方面，不能對人機會話模型的結果進行實時反饋，從而無法根據反饋進行實時地優化模型。

發明內容

本申請實施例的目的是提供一種在線訓練模型的方法、在線訓練模型的裝置、在線訓練模型的設備以及計算機可讀存儲介質，以解決難以準確地對會話內容進行標注以及無法對模型進行實時反饋與優化的問題。

為解決上述技術問題，本申請實施例是這樣實現的：

根據本申請實施例的第一方面，提供了一種在線訓練模型的方法，包括：接收當前會話的發起方發送的會話消息；基于所述當前會話的上下文信息對所述會話消息進行標注，得到所述會話消息的標注意圖；通過意圖識別模型對所述會話消息進行意圖識別，得到所述會話消息的識別意圖；基于所述標注意圖與所述識別意圖之間的差異對所述意圖識別模型的參數進行調整，以使所述差異小于第一預定閾值。

在本申請的一些實施例中，基于上述方案，所述方法還包括：基于所述識別意圖通過回應生成模型生成與所述會話消息對應的原始回應消息，所述識別意圖包含意圖屬性；基于所述當前會話的上下文信息對所述原始回應消息進行評分，得到所述原始回應消息的評分結果；若所述評分結果小于第二預定閾值，則基于所述當前會話的上下文信息對所述原始回應消息進行調整，以生成有效回應消息。

在本申請的一些實施例中，基于上述方案，所述基于所述當前會話的上下文信息對所述原始回應消息進行調整，以生成有效回應消息，包括：基于所述當前會話的上下文信息對所述原始回應消息進行調整，生成中間回應消息；基于所述當前會話的上下文信息對所述中間回應消息進行評分，得到所述中間回應消息的評分結果；若所述中間回應消息的評分結果大于所述第二預定閾值，則將所述中間回應消息作為所述有效回應消息。

在本申請的一些實施例中，基于上述方案，所述方法還包括：確定所述原始回應消息與所述有效回應消息之間的差異；基于所述原始回應消息與所述有效回應消息之間的差異對所述回應生成模型的參數進行調整。

在本申請的一些實施例中，基于上述方案，所述確定所述原始回應消息與所述有效回應消息之間的差異，包括：對所述原始回應消息以及所述有效回應消息進行分詞處理；基于分詞處理的結果生成所述原始回應消息的詞向量以及所述有效回應消息的詞向量；確定所述原始回應消息的詞向量與所述有效回應消息的詞向量之間的距離，將所述距離作為所述原始回應消息與所述有效回應消息之間的差異。

在本申請的一些實施例中，基于上述方案，所述基于所述當前會話的上下文信息對所述會話消息進行標注，包括：對所述當前會話的所述會話消息進行分詞處理，得到多個詞語；基于所述當前會話的上下文信息對所述多個詞語進行詞法、句法以及語法分析；基于分析的結果對所述會話消息進行標注。