[發(fā)明專利]一種語義匹配、語義相似度模型訓(xùn)練方法及裝置有效
| 申請?zhí)枺?/td> | 202011097991.1 | 申請日: | 2020-10-14 |
| 公開(公告)號: | CN112241626B | 公開(公告)日: | 2023-07-07 |
| 發(fā)明(設(shè)計)人: | 李家誠;沙雨辰;俞霖霖;聶源;邱慧;袁威強;胡光龍 | 申請(專利權(quán))人: | 網(wǎng)易(杭州)網(wǎng)絡(luò)有限公司 |
| 主分類號: | G06F40/194 | 分類號: | G06F40/194;G06F40/30;G06F40/242;G06F40/279;G06N20/00 |
| 代理公司: | 北京同達(dá)信恒知識產(chǎn)權(quán)代理有限公司 11291 | 代理人: | 朱琳愛義 |
| 地址: | 310052 浙江省杭州*** | 國省代碼: | 浙江;33 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 語義 匹配 相似 模型 訓(xùn)練 方法 裝置 | ||
1.一種語義匹配方法,其特征在于,包括:
獲取待匹配文本;
基于已訓(xùn)練的語義相似度模型,以所述待匹配文本和各目標(biāo)文本為輸入,分別確定所述待匹配文本和各目標(biāo)文本的第一語義相似度,其中,所述語義相似度模型是采用三元組訓(xùn)練文本樣本集進(jìn)行訓(xùn)練,以使第一文本和第二文本的語義相似度大于第一文本和第三文本的語義相似度,所述三元組訓(xùn)練文本樣本集中包括多個三元組訓(xùn)練文本樣本,每個三元組訓(xùn)練文本樣本包括第一文本、第二文本和第三文本,以及所述第一文本、所述第二文本之間的語義相似度與所述第一文本、所述第三文本之間的語義相似度的差值在預(yù)設(shè)范圍內(nèi);
根據(jù)確定的各第一語義相似度,確定所述待匹配文本的語義匹配結(jié)果,具體包括:根據(jù)預(yù)設(shè)的語義相似度轉(zhuǎn)換關(guān)系,分別將確定的各第一語義相似度轉(zhuǎn)換獲得對應(yīng)的第二語義相似度;根據(jù)獲得的各第二語義相似度,從所述各目標(biāo)文本中確定出與所述待匹配文本匹配的目標(biāo)文本;
根據(jù)預(yù)設(shè)的語義相似度轉(zhuǎn)換關(guān)系,分別將確定的各第一語義相似度轉(zhuǎn)換獲得對應(yīng)的第二語義相似度,具體包括:分別針對所述各第一語義相似度,若確定第一語義相似度大于等于第一相似度閾值,則根據(jù)第一語義相似度轉(zhuǎn)換關(guān)系,以及所述第一相似度閾值和所述第一語義相似度,確定對應(yīng)的第二語義相似度;若確定第一語義相似度小于所述第一相似度閾值并大于等于第二相似度閾值,則根據(jù)第二語義相似度轉(zhuǎn)換關(guān)系,以及所述第一相似度閾值、所述第二相似度閾值和所述第一語義相似度,確定對應(yīng)的第二語義相似度,其中,所述第一相似度閾值大于所述第二相似度閾值;若確定第一語義相似度小于所述第二相似度閾值,則根據(jù)第三語義相似度轉(zhuǎn)換關(guān)系,以及所述第二相似度閾值和所述第一語義相似度,確定對應(yīng)的第二語義相似度。
2.如權(quán)利要求1所述的方法,其特征在于,所述方法還包括:
分別將所述待匹配文本和各目標(biāo)文本進(jìn)行分字處理,獲得所述待匹配文本和各目標(biāo)文本的分字結(jié)果;
根據(jù)預(yù)設(shè)詞典中包含的字和編號的映射關(guān)系,分別獲得所述待匹配文本和各目標(biāo)文本的分字結(jié)果中各分字的編號;
并針對從所述預(yù)設(shè)詞典中未匹配到所述映射關(guān)系的分字,根據(jù)所述預(yù)設(shè)詞典中預(yù)留的保留編號,確定所述未匹配到所述映射關(guān)系的分字的編號;
則以所述待匹配文本和各目標(biāo)文本為輸入,具體包括:
分別以所述待匹配文本和各目標(biāo)文本對應(yīng)的各分字的編號為輸入。
3.如權(quán)利要求1所述的方法,其特征在于,基于已訓(xùn)練的語義相似度模型,以所述待匹配文本和各目標(biāo)文本為輸入,分別確定所述待匹配文本和各目標(biāo)文本的第一語義相似度,具體包括:
針對任意一個目標(biāo)文本,通過所述語義相似度模型的嵌入層,分別對所述待匹配文本和所述任意一個目標(biāo)文本的各分字的編號進(jìn)行編碼,獲得所述各分字的字向量表示;
將所述各分字的字向量表示,通過所述語義相似度模型的防過擬合層和雙層轉(zhuǎn)換層,分別獲得所述待匹配文本和所述任意一個目標(biāo)文本的第一特征張量表示;
分別將所述待匹配文本和所述任意一個目標(biāo)文本的第一特征張量表示,通過所述語義相似度模型的注意力機制層,獲得所述待匹配文本相對于所述任意一個目標(biāo)文本的第二特征張量表示,以及所述任意一個目標(biāo)文本相對于所述待匹配文本的第二特征張量表示;
通過所述語義相似度模型的融合層,分別對所述待匹配文本和所述任意一個目標(biāo)文本的第一特征張量表示、第二特征張量表示進(jìn)行融合處理,獲得所述待匹配文本和所述任意一個目標(biāo)文本的第三特征張量表示;
分別將所述待匹配文本和所述任意一個目標(biāo)文本的第三特征張量表示,通過所述語義相似度模型的雙向長短期記憶層,獲得所述待匹配文本和所述任意一個目標(biāo)文本的第四特征張量表示;
將所述待匹配文本和所述任意一個目標(biāo)文本的第四特征張量表示,通過所述語義相似度模型的余弦相似度層,獲得所述待匹配文本和所述任意一個目標(biāo)文本的第一語義相似度。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于網(wǎng)易(杭州)網(wǎng)絡(luò)有限公司,未經(jīng)網(wǎng)易(杭州)網(wǎng)絡(luò)有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202011097991.1/1.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。





