[發明專利]一種基于上下文的關聯性預測方法、裝置及存儲設備

在審

• 申請號: 201910830999.5
• 申請日: 2019-09-04
• 公開（公告）號: CN110569331A
• 公開（公告）日: 2019-12-13
• 發明（設計）人: 牛嘉斌;林士翔;雷欣;李志飛
• 申請（專利權）人: 出門問問信息科技有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/332;G06F17/27;G06N3/04;G06N3/08
• 代理公司: 11734 北京樂知新創知識產權代理事務所(普通合伙)
• 代理人: 江宇

本發明公開了一種基于上下文的關聯性預測方法、裝置及計算機存儲設備?；谏舷挛牡年P聯性預測方法包括：首先，獲取當前輪查詢語和上一輪查詢語；然后，對當前輪查詢語和上一輪查詢語進行詞向量轉化，分別得到當前輪查詢語詞向量和上一輪查詢語詞向量；接下來，再分別確定對應當前輪查詢語詞向量和上一輪查詢語詞向量的句子表征，得到當前輪查詢語句子表征向量和上一輪查詢語句子表征向量；最后，根據當前輪查詢語句子表征向量和上一輪查詢語句子表征向量進行關聯性預測，得到當前輪查詢語與上一輪查詢語是否相關聯的預測結果。

技術領域

本發明涉及人工智能(Artificial Intelligence，AI)技術領域，尤其涉及一種基于上下文的關聯性預測方法、裝置及計算機存儲設備。

背景技術

在現有的對話系統中，很難通過單個問題捕獲用戶的真實意圖，通常都需要進行多輪對話，結合用戶之前的查詢語，才能更好地確定當前查詢語的語境，得到當前查詢語的確切語義，做出更準確的應答。相應地，對話系統中的自然語言理解模塊也衍生出一個上下文自然語言理解模塊，該模塊就主要根據多輪對話中上一輪查詢語和當前輪查詢語的上下文關聯性預測，捕獲用戶的真實意圖，為對話管理模塊做出更準確的決策提供支持。

目前的上下文自然語言理解模塊，在判斷多輪對話的上下文關聯性預測中存在以下問題：1)用規則來實現上下文分類，人工成本較高；2)只考慮上文的域信息而忽略文本信息，即在進行基于上下文的關聯性預測時，只考慮多輪對話中的上一輪查詢語所屬的域與當前輪查詢語所屬的域是否相關，而不考慮其他因素；3)僅限于查詢語本身包含的內容，沒有引入外部知識，泛化性不高。

發明內容

本發明實施例為了解決以上問題，創造性地提供一種基于上下文的關聯性預測方法、裝置及計算機存儲設備。

根據本發明實施例第一方面，提供一種基于上下文的關聯性預測方法，該方法包括：獲取當前輪查詢語和與當前輪查詢語對應的上一輪查詢語；對當前輪查詢語和上一輪查詢語進行詞向量轉化，分別得到對應的當前輪查詢語詞向量和上一輪查詢語詞向量；分別確定對應當前輪查詢語詞向量和上一輪查詢語詞向量的句子表征，得到對應的當前輪查詢語句子表征向量和上一輪查詢語句子表征向量；根據當前輪查詢語句子表征向量和上一輪查詢語句子表征向量進行關聯性預測，得到用于表征當前輪查詢語和與上一輪查詢語是否相關聯的預測結果。

根據本發明一實施方式，對當前輪查詢語和上一輪查詢語進行詞向量轉化，分別得到對應的當前輪查詢語詞向量和上一輪查詢語詞向量，包括：對當前輪查詢語和上一輪查詢語進行詞典特征抽取，分別得到由詞和詞所屬詞典組成的當前輪查詢語詞集和上一輪查詢語詞集；對當前輪查詢語詞集和上一輪查詢語詞集分別進行詞向量轉換(wordembedding)，將詞集轉化為數值矩陣形式的當前輪查詢語詞向量和上一輪查詢語詞向量。

根據本發明一實施方式，分別確定對應當前輪查詢語詞向量和上一輪查詢語詞向量的句子表征，得到對應的當前輪查詢語句子表征向量和上一輪查詢語句子表征向量，包括：對當前輪查詢語詞向量和上一輪查詢語詞向量進行卷積處理，得到對應的當前輪查詢語多維特征向量和上一輪查詢語多維特征向量；對當前輪查詢語多維特征向量和上一輪查詢語多維特征向量進行最大池化處理，得到對應的當前輪查詢語句子表征向量和上一輪查詢語句子表征向量。

根據本發明一實施方式，對當前輪查詢語詞向量和上一輪查詢語詞向量進行卷積處理，包括：通過卷積神經網絡模型CNN對當前輪查詢語詞向量和上一輪查詢語詞向量進行等步長卷積處理。

根據本發明一實施方式，根據當前輪查詢語句子表征向量和上一輪查詢語句子表征向量進行關聯性預測，得到用于表征當前輪查詢語和與上一輪查詢語是否相關聯的預測結果，包括：對當前輪查詢語句子表征向量和上一輪查詢語句子表征向量進行融合，得到聯合表示向量；對聯合表示向量進行二分類預測，得到用于表征當前輪查詢語和與上一輪查詢語是否相關聯的預測結果。