[發明專利]一種面向英文寫作輔助的語義匹配方法及裝置

在審

• 申請號: 201911063163.3
• 申請日: 2019-10-31
• 公開（公告）號: CN112749566A
• 公開（公告）日: 2021-05-04
• 發明（設計）人: 蘭雨晴;廉照鵬
• 申請（專利權）人: 蘭雨晴
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京匯智英財專利代理事務所(普通合伙) 11301
• 代理人: 張瑋瑋

1.一種面向英文寫作輔助的語義匹配方法，其特征在于，包括如下步驟：

步驟S1：構建例句語料庫；

步驟S2：構建語義匹配模型訓練數據集；

步驟S3：構建多視角注意力機制的語義匹配模型；

步驟S4：訓練語義匹配模型。

2.如權利要求1所述的面向英文寫作輔助的語義匹配方法，其特征在于，所述步驟S1包括：

步驟S11：對英文寫作網站數據進行爬取解析，并將內容按文章的形式進行存儲，構建語料庫；

步驟S12：對語料庫內容進行一些基本的預處理，以語句的形式進行保存構建例句語料庫。

3.如權利要求1所述的面向英文寫作輔助的語義匹配方法，其特征在于，所述步驟S2包括：

步驟S21：對構建的例句語料庫中語料進行部分標注；

步驟S22：利用加權的詞向量作為無監督的句向量表示，利用余弦距離得到一些候選的語義相似句子對；

步驟S23：進行人工篩選并標注為正例樣本或負例樣本。

4.如權利要求1所述的面向英文寫作輔助的語義匹配方法，其特征在于，所述步驟S3包括：

步驟S31：構建字符映射轉換表，建立每個單詞或標點符號與數字ID的對應關系；

步驟S32：利用映射轉換表將輸入的字符轉化為對應的數字ID；

步驟S33：利用數字ID得到每個單詞的詞向量，將兩個句子以二維張量表示；

步驟S34：使用一個共享權重的雙向LSTM對兩個句子分別進行編碼，利用上下文信息將兩個句子映射到相同向量空間，從而得到更準確的詞向量表示；

步驟S35：利用精確匹配矩陣、原始詞向量以及編碼之后的詞向量構建句子對的匹配矩陣；

步驟S36：利用雙向LSTM對兩對匹配特征不同位置的特征結合上下文進行編碼，然后利用最大池化和注意力加權池化對特征進行融合；

步驟S37：利用多層感知機MLP對特征進一步編碼整合，輸出最終的語義匹配結果。

5.如權利要求5所述的面向英文寫作輔助的語義匹配方法，其特征在于，所述步驟S35包括：

步驟S351：使用兩個語句各個位置詞向量對原始詞向量匹配矩陣與編碼后的詞向量匹配矩陣進行點乘運算，以衡量語義相似；

步驟S352：利用1x1卷積運算將三個匹配矩陣作為三個輸入通道對特征進行整合，通過多個視角得到最終的匹配矩陣；

步驟S353：將匹配矩陣的值作為表示詞重要性的權重，利用基于注意力機制的軟對齊方法，將兩個句子分別表示為與另一個句子等長的二維張量；

步驟S354：分別對得到的兩對等長二維張量通過向量減法和按元素相乘提取匹配特征。

6.如權利要求1所述的面向英文寫作輔助的語義匹配方法，其特征在于，所述步驟S4包括：

步驟S41：將步驟S2中，在構建語義匹配模型訓練數據集所標注的數據集隨機打亂，并劃分為訓練集、驗證集及測試集三部分；

步驟S42：使用訓練集對匹配模型進行訓練；

步驟S43：利用驗證集對模型的超參數進行調整；

步驟S44：利用測試集對模型效果進行測試。

7.如權利要求6所述的面向英文寫作輔助的語義匹配方法，其特征在于，所述步驟S43中，超參數包括epoch、batch size、學習率、隱藏層維度及dropout系數。

8.一種面向英文寫作輔助的語義匹配裝置，其特征在于，包括：

例句語料庫構建單元，利用爬蟲相關技術，對英文寫作網站數據進行爬取，并對爬取內容進行預處理，構建例句語料庫；

語義匹配模型構建單元，用于構建多視角的注意力文本語義匹配模型；

語義匹配模型訓練單元，用于使用標注的語義匹配數據集對語義匹配模型進行訓練及驗證。