[發明專利]面向智能交互的句子對語義匹配方法和裝置

有效

• 申請號: 202110371080.1
• 申請日: 2021-04-07
• 公開（公告）號: CN113065359B
• 公開（公告）日: 2022-05-24
• 發明（設計）人: 鹿文鵬;左有慧;張旭;闞保碩;趙鵬宇
• 申請（專利權）人: 齊魯工業大學
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06F40/194;G06F40/284;G06K9/62
• 代理公司: 濟南信達專利事務所有限公司 37100
• 代理人: 孫園園

本發明公開了一種面向智能交互的句子對語義匹配方法和裝置，屬于人工智能、自然語言處理領域。本發明要解決的技術問題為如何捕獲語義特征和句子交互信息，以實現人機交互句子對的智能語義匹配。采用的技術方案為通過構建并訓練由多粒度嵌入模塊、多級對齊匹配網絡模塊、特征增強模塊和標簽預測模塊組成的句子對語義匹配模型，實現對句子信息的多級對齊匹配表示，通過一維最大池化和交互生成句子對的匹配張量并判定句子對的匹配度，達到句子對智能匹配的目標。該裝置包括句子對語義匹配知識庫構建單元、訓練數據集生成單元、句子對語義匹配模型構建單元及句子對語義匹配模型訓練單元。

技術領域

本發明涉及人工智能、自然語言處理技術領域，具體涉及一種面向智能交互的句子對語義匹配方法和裝置。

背景技術

隨著人工智能技術的發展，越來越多的智能系統被廣泛應用于人們的日常生活中，如阿里智能客服機器人、蘋果Siri智能語音助手等。如何與這些智能系統進行有效的交互，是決定用戶體驗的一個關鍵因素。目前，大多數智能系統可通過圖形用戶接口、鍵盤、鼠標、語言和手勢等進行交互控制。其中，語言交互是最重要的人機交互方式；對于人類而言，該方式最為便捷。通過語言交互，用戶的指令以語言的形式直接傳送給智能系統，而系統的反饋以語言的形式直接傳送給用戶。對于一個理想的智能系統，其應該能夠理解用戶語言，執行用戶的指示，并以恰當的語言反饋用戶。句子對語義匹配在智能人機交互中有著重要的應用。比如，在自動問答系統中，智能系統接收用戶提出的問題，將用戶問題與標準問答知識庫中的問題進行匹配，將匹配的標準問題的答案反饋給用戶，將能夠有效提升用戶在人機交互中的體驗。句子對語義匹配在自動問答系統、推薦系統、自然語言推理等面向智能系統的人機交互應用中均具有重要的作用；這些人機交互應用，均可以演化為句子對語義匹配問題而予以解決。

句子對語義匹配任務旨在衡量兩個句子所蘊含的語義是否一致。自然語言句子的語義匹配度計算是一項極具挑戰性的工作，現有方法還尚未能完善地解決這一問題。

現有方法在對句子對的語義進行匹配時，通常采用基于表示的方法或基于交互的方法。基于表示的方法首先對兩個句子進行編碼得到各自的向量表示，再通過相似度計算函數來計算兩向量的相似度；側重于構建語義向量表示層，有著結構簡單和解釋性強的優點；但是，該方法并沒有充分捕獲兩個句子彼此之間的交互依賴關系，這并不符合人類進行語義匹配的模式。為解決上述不足，基于交互的方法應運而生。基于交互的方法一般是通過注意力機制捕獲兩個句子彼此間的交互特征，然后將匹配結果通過某種結構聚合起來，以得到最終的語義表示；該方法的優點是可以較好地捕獲句子之間的交互依賴、把握語義焦點，對上下文重要性進行合理建模；但是，目前大多數工作側重于進行單詞級別的交互；部分工作針對中文的特點，開始同時考慮詞語和字符級別的交互，這些工作雖然考慮了兩種粒度，但是它們依然忽略了兩種粒度彼此之間的交互，并且沒有考慮交互之后進行再次編碼以提取更深層次的語義特征。

發明內容

本發明的技術任務是提供面向智能交互的句子對語義匹配方法和裝置，捕獲更多的語義特征和句子交互信息，以實現人機交互句子對的智能語義匹配的目的。

本發明的技術任務是按以下方式實現的，面向智能交互的句子對語義匹配方法，該方法是通過構建并訓練由多粒度嵌入模塊、多級對齊匹配網絡模塊、特征增強模塊和標簽預測模塊組成的句子對語義匹配模型，實現對句子信息的多級對齊匹配表示，通過一維最大池化和交互生成句子對的匹配張量并判定句子對的匹配度，以達到對句子對進行智能語義匹配的目標；具體如下：

多粒度嵌入模塊對輸入的句子以字粒度和詞粒度分別進行嵌入操作，得到句子的多粒度嵌入表示；

多級對齊匹配網絡模塊對句子的多粒度嵌入表示進行編碼操作，得到句子的多級對齊匹配網絡表示；

特征增強模塊對句子對的多級對齊匹配網絡表示進行進一步地一維最大池化和特征交互操作，得到句子對的匹配向量；