[發明專利]一種基于語義識別的自然語言處理方法、裝置和系統在審
| 申請號: | 202010955100.5 | 申請日: | 2020-09-11 |
| 公開(公告)號: | CN112000778A | 公開(公告)日: | 2020-11-27 |
| 發明(設計)人: | 汪秀英 | 申請(專利權)人: | 汪秀英 |
| 主分類號: | G06F16/33 | 分類號: | G06F16/33;G06F16/35;G06F40/30;G06N3/04 |
| 代理公司: | 長沙正務聯合知識產權代理事務所(普通合伙) 43252 | 代理人: | 鄭雋;吳婷 |
| 地址: | 410205 湖南省長沙市高新*** | 國省代碼: | 湖南;43 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 一種 基于 語義 識別 自然語言 處理 方法 裝置 系統 | ||
1.一種基于語義識別的自然語言處理方法,其特征在于,所述方法包括:
在知識庫中提取知識庫信息的知識特征詞向量;
利用外部知識增強模型對所述知識特征詞向量進行知識增強處理;
獲取待處理自然語言,基于知識特征詞向量分布從詞級別和句子級別進行待處理自然語言信息的整合;
基于注意力機制對整合信息進行處理,得到待處理自然語言的語義特征;
根據待處理自然語言的語義特征,利用多層感知機進行自然語言的分類處理。
2.如權利要求1所述的一種基于語義識別的自然語言處理方法,其特征在于,所述提取知識庫信息的知識特征詞向量,包括:
1)若知識庫信息的上下文為w1,...,wj,...,wn,利用BiLSTM網絡對知識庫信息的上下文進行編碼,得到詞匯wj的上下文向量gj;
2)將gj作為概率預測器的輸入,由于每個詞匯可能會包含多個含義,本發明利用概率預測器得到上下文向量gj與詞匯含義ek之間的關聯度:
其中:
vk表示當前詞匯wj所包含的含義的200D嵌入向量;
bk為概率預測器的偏置向量;
σ為sigmoid激活函數;
3)進一步計算詞匯wj中各含義s與gj的匹配概率,從而得到知識庫信息中,當前語境下概率最大的含義smax:
其中:
ns為詞匯wj的含義總數;
為上下文向量gj與詞匯含義ek之間的關聯度;
4)利用BiLSTM網絡將當前語境下概率最大的含義smax轉換為含義詞向量,并將含義詞向量與詞匯的上下文詞向量進行拼接,作為知識特征詞向量。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于汪秀英,未經汪秀英許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202010955100.5/1.html,轉載請聲明來源鉆瓜專利網。





