[發明專利]文本語義相似度的分析方法、裝置及計算機設備

在審

• 申請號: 202010092595.3
• 申請日: 2020-02-14
• 公開（公告）號: CN111368024A
• 公開（公告）日: 2020-07-03
• 發明（設計）人: 李小娟;徐國強
• 申請（專利權）人: 深圳壹賬通智能科技有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06N3/04
• 代理公司: 北京中強智尚知識產權代理有限公司 11448
• 代理人: 黃耀威

1.一種文本語義相似度的分析方法，其特征在于，包括：

獲取通用數據集以及目標領域數據集；

將所述通用數據集作為訓練樣本訓練語義相似度識別模型；

利用所述目標領域數據集作為遷移學習樣本調整所述語義相似度識別模型；

將待進行語義相似度識別的目標短文本輸入至調整完成的所述語義相似度識別模型中，獲取得到語義相似度；

基于所述語義相似度確定語義相似度識別結果。

2.根據權利要求1所述的方法，其特征在于，所述將所述通用數據集作為訓練樣本訓練語義相似度識別模型，具體包括：

從所述通用數據集中任意篩選出兩個短文本構成待測文本對；

對所述待測文本對進行預處理并輸入至語義相似度識別模型中的Embedding層，獲取得到第一序列和第二序列，所述第一序列對應所述待測文本對中其中一個短文本的映射結果，所述第二序列對應所述待測文本對中另一個短文本的映射結果；

將所述第一序列和所述第二系列輸入至雙向長短時記憶網絡BiLSTM中，以便獲取得到對應的第一向量以及第二向量；

計算所述第一向量及所述第二向量之間的差異性，并獲取得到所述第一向量對應加權后的第三序列和所述第二向量對應加權后的第四序列；

根據所述第一序列、所述第二序列、所述第三序列和所述第四序列計算得到特征向量；

基于所述特征向量輸出第一相似度識別結果；

確定所述第一相似度識別結果相對于第一目標識別結果的第一準確度損失；

基于所述第一準確度損失確定第一損失函數，利用所述第一損失函數對所述語義相似度識別模型進行優化。

3.根據權利要求2所述的方法，其特征在于，所述利用所述目標領域數據集作為遷移學習樣本調整所述語義相似度識別模型，具體包括：

根據所述目標領域數據集的數據量以及文本相似度的大小調整所述語義相似度識別模型；

利用所述目標領域數據集中的歷史數據記錄構建正例訓練樣本；

基于杰卡德相似性度量方法篩選負例訓練樣本；

將所述正例訓練樣本及所述負例訓練樣本輸入至調整后的語義相似度識別模型中，獲取得到第二相似度識別結果；

確定所述第二相似度識別結果相對于第二目標識別結果的第二準確度損失；

基于所述第二準確度損失確定第二損失函數，利用所述第二損失函數所述調整后的語義相似度識別模型進行優化，使所述語義相似度識別模型的識別精度符合預設標準。

4.根據權利要求3所述的方法，其特征在于，所述根據所述目標領域數據集的數據量以及文本相似度的大小調整所述語義相似度識別模型，具體包括：

若確定所述目標領域數據集的數據量小于或等于第一預設閾值、文本相似度大于第二預設閾值，則修改所述語義相似度識別模型中softmax層的輸出類別；

若確定所述目標領域數據集的數據量小于或等于所述第一預設閾值、所述文本相似度小于或等于所述第二預設閾值，則凍結所述語義相似度識別模型中的初始層，再次訓練余下的各層；

若確定所述目標領域數據集的數據量大于所述第一預設閾值、所述文本相似度小于或等于所述第二預設閾值，則利用所述目標領域數據集重新訓練所述語義相似度識別模型；

若確定所述目標領域數據集的數據量大于所述第一預設閾值、所述文本相似度大于所述第二預設閾值，則保留所述語義相似度識別模型的體系結構和初始權重，并利用所述初始權重來重新訓練所述語義相似度識別模型。

5.根據權利要求3所述的方法，其特征在于，所述基于杰卡德相似性度量方法篩選負例訓練樣本，具體包括：

從所述目標領域數據集中隨機篩選出兩個短文本句子構建樣本句子對，基于杰卡德相似性度量方法對所述樣本句子對進行相似度計算，獲取得到相似度計算結果；

若所述相似度計算結果大于第三預設閾值，則將對應的所述樣本句子對確定為負例訓練樣本。

6.根據權利要求5所述的方法，其特征在于，所述杰卡德相似性度量方法的計算公式為：其中，J(A,B)為相似度計算結果，A為所述樣本句子對中的一個短文本句子，B為所述樣本句子對中的另一個短文本句子。