[發明專利]實體識別的方法和裝置、電子設備和存儲介質在審
| 申請號: | 202210307561.0 | 申請日: | 2022-03-25 |
| 公開(公告)號: | CN114626380A | 公開(公告)日: | 2022-06-14 |
| 發明(設計)人: | 李犇;張杰;于皓 | 申請(專利權)人: | 北京明略昭輝科技有限公司 |
| 主分類號: | G06F40/295 | 分類號: | G06F40/295;G06F16/36;G06N3/04;G06N3/08 |
| 代理公司: | 北京華夏泰和知識產權代理有限公司 11662 | 代理人: | 曾軍 |
| 地址: | 100098 北京市海淀區*** | 國省代碼: | 北京;11 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 實體 識別 方法 裝置 電子設備 存儲 介質 | ||
1.一種實體識別的方法,其特征在于,所述方法包括:
獲取待識別的目標文本數據;
將所述目標文本數據輸入目標模型內,得到所述目標文本數據屬于的目標實體類別,其中,所述目標模型用于得到所述文本數據的標注信息,并根據所述標注信息識別出所述目標實體類別,所述目標模型是通過對第三模型進行第三模型參數調整后,得到的最終模型,所述第三模型為沿用第二模型內的第二模型參數,對訓練集進行預訓練的模型,所述第二模型為對第一模型進行預設次數的迭代訓練后得到的模型,所述預設次數是利用第四模型對所述訓練集進行處理得到的。
2.根據權利要求1所述的方法,其特征在于,在所述獲取待識別的目標文本數據之前,所述方法還包括:
獲取訓練文本數據;
按照預設方案對所述訓練文本數據內的字符進行片段式拼接,生成多個片段序列;
將所述片段序列內的每個字符與預設實體名稱進行文本匹配,確定出所述訓練文本數據屬于的實體類型;
將所述訓練文本數據與所述實體類型作為所述訓練集。
3.根據權利要求2所述的方法,其特征在于,所述按照預設方案對所述訓練文本數據內的字符進行片段式拼接,生成多個片段序列包括:
將所述訓練文本數據按照單字符形式進行劃分,并對劃分后的每個字符進行字符標注;
對所述字符標注進行片段式拼接,生成多個所述片段序列。
4.根據權利要求3所述的方法,其特征在于,所述對所述字符標注進行片段式拼接,生成多個所述片段序列包括:
確定出預設窗口長度,其中,所述預設窗口長度為每個所述片段序列內所允許包含的字符總數的最大值;
在所述預設窗口長度的范圍內,將每個片段中包含的頭字符和尾字符進行拼接,得到多個所述片段序列,其中,每個所述片段包含至少一個字符。
5.根據權利要求2所述的方法,其特征在于,在所述將所述訓練文本數據與所述實體類型作為所述訓練集之后,所述方法還包括:
根據所述訓練文本數據和所述第一模型,生成每個所述片段序列對應的多個隱向量;
將多個所述隱向量輸入所述第一模型的前饋神經網絡,得到每個所述隱向量屬于所述實體類型的第一概率數值;
根據所述第一概率數值,經過所述預設次數的跌代,調整所述第一模型的第一模型參數,得到所述第二模型;
基于所述第二模型和多個所述片段序列,調整所述第三模型的第三模型參數,得到所述目標模型。
6.根據權利要求5所述的方法,其特征在于,所述基于所述第二模型和多個所述片段序列,調整所述第三模型的第三模型參數,得到所述目標模型包括:
利用所述第二模型的第二模型參數初始化所述第三模型,其中,當前所述第三模型內的第三模型參數等于所述第二模型參數;
將多個所述隱向量輸入所述第三模型中,得到每個所述片段序列屬于所述實體類型的參考概率數值;
利用均方差損失函數訓練所述第三模型,調整所述第三模型的所述第三模型參數,直到所述參考概率數值大于或者等于預設閾值,得到所述目標模型,其中,所述預設閾值為停止調整所述第三模型參數的最小值。
7.根據權利要求6所述的方法,其特征在于,所述利用均方差損失函數訓練所述第三模型,調整所述第三模型的所述第三模型參數,直到所述參考概率數值大于或者等于預設閾值,得到所述目標模型包括:
將多個所述片段序列輸入所述第三模型的第一子模型中,得到第二概率數值;
基于所述第二概率數值,利用所述均方差損失函數訓練所述第三模型的第二子模型,直到完成所述預設次數的迭代,得到訓練后的第二子模型的第二子模型參數;
利用所述第二子模型參數更新所述第一子模型中的第一子模型參數,得到更新后的第一子模型;
將多個所述隱向量輸入更新后的第一子模型,得到第三概率數值;
基于所述第三概率數值,調整所述第二子模型參數,直到所述第二子模型輸出的所述參考概率數值大于或者等于所述預設閾值,停止調整所述第二子模型參數,得到所述目標模型。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于北京明略昭輝科技有限公司,未經北京明略昭輝科技有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202210307561.0/1.html,轉載請聲明來源鉆瓜專利網。





