[發明專利]一種基于語義和淺層特征的短文本匹配方法

有效

• 申請號: 202110373418.7
• 申請日: 2021-04-07
• 公開（公告）號: CN112966073B
• 公開（公告）日: 2023-01-06
• 發明（設計）人: 楊潔;余衛宇
• 申請（專利權）人: 華南理工大學
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06N3/04
• 代理公司: 北京睿智保誠專利代理事務所(普通合伙) 11732
• 代理人: 韓迎之

1.一種基于語義和淺層特征的短文本匹配方法，其特征在于，包括以下步驟：

讀取、預處理第一文本和第二文本，獲取字信息；

利用word2vec模型將所述字信息映射為字特征向量；

提取句編碼的特征，對所述特征進行歸一化處理，獲得統計特征向量；

利用BiLSTM和attention得到所述字特征向量對應的解碼向量u_s；所述統計特征向量經多頭注意力機制結構更新所述統計特征向量得到解碼向量r_s；

將所述解碼向量u_s和所述解碼向量r_s進行拼接，對拼接結果進行預測，若輸出結果為1，則所述第一文本和所述第二文本匹配成功；

所述解碼向量u_s獲取的具體過程如下：

將所述字特征向量輸入BiLSTM層，進行獨立encoder編碼，并且在每個向量后加入特殊向量得到如下：

其中，是第一文本的所述字特征向量輸入BiLSTM層，進行獨立encoder編碼所得；是第二文本的所述字特征向量輸入BiLSTM層，進行獨立encoder編碼所得；表示第一文本對應的特殊向量；表示第二文本對應的特殊向量；表示第一文本的所述字特征向量，表示第二文本的所述字特征向量；將輸入到非線性激活網絡，得到隱藏向量矩陣h_b，將輸入到非線性激活網絡，得到隱藏向量矩陣h_d：

計算隱藏向量矩陣h_d和隱藏向量矩陣h_b的相關性矩陣s如下：

s＝(h_b)^Th_d∈R^(b+1)*(d+1)；

利用所述相關性矩陣s，根據softmax函數計算相互的attention分數A^b和A^d；計算特征向量c_b和特征向量c_d如下：

c_b＝h_dA_b∈R^l*(n+1)；

c_d＝[h_b；c_b]A_d∈R^2l*(m+1)；

將隱藏向量矩陣h_b和特征向量c_b進行拼接，將隱藏向量矩陣h_d和特征向量矩陣c_d進行拼接之后，得到的兩個向量再進行拼接得到w_t，并u_t-1和u_t+1接入一個BiLSTM層，得到當下最后的隱藏向量u_t，其中u_t-1和u_t+1分別是前一時刻和后一時刻的最后隱藏向量u；將隱藏向量u輸入到BiLSTM層，得到對應的解碼向量u_s。

2.根據權利要求1所述的一種基于語義和淺層特征的短文本匹配方法，其特征在于，所述字信息包括字數列和詞序列。

3.根據權利要求1所述的一種基于語義和淺層特征的短文本匹配方法，其特征在于，所述句編碼的特征包括距離特征、文本特征和共現特征。