[發明專利]文本識別方法、裝置及計算機可讀存儲介質

在審

• 申請號: 202211580848.7
• 申請日: 2022-12-09
• 公開（公告）號: CN115730043A
• 公開（公告）日: 2023-03-03
• 發明（設計）人: 范艷;吳偉華;禹世杰;葉桔
• 申請（專利權）人: 深圳市華尊科技股份有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35;G06F16/31;G06F40/126;G06F18/214
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 黃禹強

1.一種文本識別方法，其特征在于，所述方法包括：

獲取目標非結構化文本，所述目標非結構化文本包括L個token和K個預定義的關系，L和K均為正整數；

將所述目標非結構化文本輸入到目標語言模型進行預測，得到預測結果，所述目標語言模型為針對預訓練語言模型添加噪聲進行擾動后得到的語言模型，所述預測結果包括實體與關系之間的至少一個三元組；

按照預設的基于角標記的實體與關系的解碼策略對所述預測結果進行解碼，得到目標三元組；

根據所述目標三元組確定與所述目標非結構化文本對應的目標結構化文本。

2.根據權利要求1所述的方法，其特征在于，所述方法還包括：

獲取所述預訓練語言模型的參數矩陣；

根據所述參數矩陣確定標準差；

獲取預設噪聲矩陣；

根據所述標準差和所述預設噪聲矩陣對所述參數矩陣進行擾動處理，得到目標參數矩陣；

根據所述目標參數矩陣優化所述預訓練語言模型，得到所述目標語言模型。

3.根據權利要求1或2所述的方法，其特征在于，所述將所述目標非結構化文本輸入到目標語言模型進行預測，得到預測結果，包括：

將所述目標語言模型作為編碼器對所述目標非結構化文本進行嵌入，得到嵌入結果；

將所述嵌入結果輸入到預設分類器，得到所述至少一個三元組；

根據所述至少一個三元組確定所述預測結果。

4.根據權利要求3所述的方法，其特征在于，所述嵌入結果包括多個嵌入向量，每一字符對應一個嵌入向量；

所述將所述嵌入結果輸入到預設分類器，得到所述至少一個三元組，包括：

確定所述多個嵌入向量中任意兩個嵌入向量之間的表征特征，得到多個表征特征；

將所述多個表征特征輸入到預設得分函數，得到多個得分向量；

將所述多個得分向量輸入到歸一化函數，得到所述多個三元組，每一三元組對應一個標簽。

5.根據權利要求4所述的方法，其特征在于，所述按照預設的基于角標記的實體與關系的解碼策略對所述預測結果進行解碼，得到目標三元組，包括：

根據所述多個三元組和所述多個標簽，確定第一結果矩陣，并對所述第一結果矩陣進行預處理，得到第二結果矩陣，所述第二結果矩陣為三維矩陣；

將所述第二結果矩陣轉化為二維矩陣，得到第三結果矩陣；

從所述第三結果矩陣中找出大于0的元素的索引，得到至少一個索引；

根據所述至少一個索引確定符合預設要求的標簽，得到至少一個標簽；

根據所述至少一個標簽確定頭實體和尾實體的索引范圍；

根據所述索引范圍以及所述K個token確定所述目標三元組。

6.一種文本識別裝置，其特征在于，所述裝置包括：獲取單元、預測單元、解碼單元和確定單元，其中，

所述獲取單元，用于獲取目標非結構化文本，所述目標非結構化文本包括L個token和K個預定義的關系，L和K均為正整數；

所述預測單元，用于將所述目標非結構化文本輸入到目標語言模型進行預測，得到預測結果，所述目標語言模型為針對預訓練語言模型添加噪聲進行擾動后得到的語言模型，所述預測結果包括實體與關系之間的至少一個三元組；

所述解碼單元，用于按照預設的基于角標記的實體與關系的解碼策略對所述預測結果進行解碼，得到目標三元組；

所述確定單元，用于根據所述目標三元組確定與所述目標非結構化文本對應的目標結構化文本。

7.根據權利要求6所述的裝置，其特征在于，所述裝置還具體用于：

獲取所述預訓練語言模型的參數矩陣；

根據所述參數矩陣確定標準差；

獲取預設噪聲矩陣；

根據所述標準差和所述預設噪聲矩陣對所述參數矩陣進行擾動處理，得到目標參數矩陣；

根據所述目標參數矩陣優化所述預訓練語言模型，得到所述目標語言模型。