[發明專利]一種軍事場景下文本語義檢索方法

在審

• 申請號: 202211630251.9
• 申請日: 2022-12-19
• 公開（公告）號: CN116150335A
• 公開（公告）日: 2023-05-23
• 發明（設計）人: 孫斌;韓立斌;趙文成;袁翔;鄭少秋;王靜;周宇;黎健
• 申請（專利權）人: 中國電子科技集團公司第二十八研究所
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F16/33;G06F16/338;G06F16/34;G06F40/216;G06F40/279
• 代理公司: 江蘇圣典律師事務所 32237
• 代理人: 胡建華

本發明公開了一種軍事場景下文本語義檢索方法。一是基于軍用預訓練模型，構建對偶式語義檢索模型，在軍用語義檢索數據集上訓練微調，形成問答對語言表示模型，并離線獲取軍事文本數據語義向量庫，通過向量聚類方式構建二級倒排索引；二是基于軍用預訓練模型，構建文本檢索精排模型，在軍用語義檢索精排數據集上微調訓練。面對實時檢索任務，利用問句語言表示模型獲取問句語義向量表示，通過向量相似度計算并檢索，召回符合用戶需求的文本集合，并使用文本檢索精排模型，精準定位特定文本數據并反饋給用戶。該方法能夠從海量軍事文本數據中實時精準定位用戶所需數據，在軍事場景下海量文本搜索、檢索式問答場景下均可使用。

技術領域

本發明屬于語義檢索與智能問答技術領域，尤其涉及一種軍事場景下文本語義檢索方法。

背景技術

隨著我軍數字化及數據工程建設日益成熟，軍隊數據資產呈指數級暴增，大數據背景下軍事數據資源檢索已成為軍事用戶在執行各類任務時不可或缺的一部分。面對聯合信息服務環境中分布廣泛、海量的文本數據，如何幫助各類軍事人員在數據海洋中快速精準定位所需數據成為關鍵且亟需解決的問題。

傳統文本語義檢索方法以關鍵詞檢索方式實現海量文本數據檢索。具體的，首先對檢索需求進行分詞處理，獲取檢索關鍵字/詞信息；然后通過查詢語義詞庫、同義詞林和相關詞庫等，擴展信息搜索范圍；然后，采用以TF-IDF(term?frequency-inverse?documentfrequency，詞頻-逆文本頻率指數)等詞頻統計方法為核心的BM25(Best?Match，最佳匹配)等統計學算法召回與問句強相關的文本集合。這種以關鍵詞“硬”匹配的統計學方法從單詞層面解決文本檢索問題，卻忽略文本語義層面的信息，僅在搜索關鍵詞準確、搜索意圖明確的使用場景中使用效果較好。

隨著自然語言處理技術的發展，研究人員將文本信息檢索抽象為文本匹配問題，開始嘗試構建判別式LTR(Learning?to?Rank)模型，利用語言表示模型獲取文本特征表示，并通過計算文本間相似度，召回與問句強相關的文本集合。例如，傅健等利用卷積深度神經網絡模型提取問句和答句各自的句內結構特征以及兩者之間的交互信息并計算出相似度，從而提升基于文檔檢索的問答任務效果。邵明銳等將Transformer與注意力機制結合的深度神經網絡模型應用于基于FQA的問答任務中，使模型在數據集較小的情況下也可以完成文本的最相似匹配。朱宗奎等人針對中文問句的特殊性，利用BERT預訓練模型完成實體識別和相似度計算問題，來優化中文知識圖譜問答任務性能。相比于傳統方法，基于深度學習的文本匹配方法能夠自動學習問答句語義信息，在文本語義匹配上更為出色。

現有文本檢索方法在軍事場景下應用的局限性在于：一是軍事場景下，各類文本檢索需求專業性強、各類用戶問題表述清晰程度不一，傳統基于詞頻統計的文本語義檢索方法使用效果不佳；二是軍事文本語料中存在許多專業詞匯，現有通用預訓練語言模型難以適用，需收集大量軍事語料數據重新訓練生成軍用預訓練模型；三是基于召回文本相似度排序的方法難以滿足軍事場景下高文本查準率要求，需要對召回結果進一步處理獲取最佳文本答案。

發明內容

發明目的：本發明所要解決的技術問題是針對現有技術的不足，面向海量軍事文本數據，提供一種軍事場景下文本語義檢索方法，通過構建軍用問答句語義表示模型，深度表征專業性強、表述質量不一的問句語義特征，利用向量相似性檢索方式召回與問句強相關的文本集合。在此基礎上，利用文本檢索精排模型，快速精準定位所需文本數據，從語義的角度提高文本檢索的查全率和查準率，進一步提高用戶體驗。

為了解決上述技術問題，本發明公開了一種軍事場景下文本語義檢索方法主要分為離線和在線兩個部分，具體內容如下：