[發明專利]訓練數據生成及模型訓練方法、裝置及計算機存儲介質

在審

• 申請號: 202211064781.1
• 申請日: 2022-09-01
• 公開（公告）號: CN115470331A
• 公開（公告）日: 2022-12-13
• 發明（設計）人: 周元輔;晏超
• 申請（專利權）人: 蕪湖云從科技有限公司
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F16/33;G06K9/62
• 代理公司: 北京潤澤恒知識產權代理有限公司 11319
• 代理人: 李興迪

1.一種訓練數據生成方法，其特征在于，包括：

根據隨機確定的粒度級別，確定目標文本的構造位置；

根據隨機確定的片段長度、所述目標文本的構造位置、確定所述目標文本的構造片段；

根據隨機確定的構造規則、所述目標文本的構造位置和構造片段，重構所述目標文本，生成所述目標文本的構造文本；

根據所述目標文本和所述構造文本，獲得所述目標文本的訓練數據。

2.根據權利要求1所述的方法，其特征在于，所述目標文本為平滑文本，所述構造文本為不平滑文本。

3.根據權利要求1所述的方法，其特征在于，所述粒度級別包括字粒度級別、詞粒度級別中的一個；

其中，所述根據隨機確定的粒度級別，確定目標文本的構造位置，包括：

基于隨機確定的粒度級別識別所述目標文本，確定所述目標文本中的多個粒度特征；

基于所述目標文本中的各粒度特征、隨機確定的構造數量，確定所述目標文本中的至少一個構造位置。

4.根據權利要求3所述的方法，其特征在于，所述根據隨機確定的片段長度、所述目標文本的構造位置、確定所述目標文本的構造片段，包括：

針對所述目標文本的各構造位置中的任意一個當前構造位置，

將所述當前構造位置對應的粒度特征中的第一個字符確定為片段起點；

基于隨機確定的片段長度、所述當前構造位置的片段起點，確定所述當前構造位置的片段終點；

基于所述片段起點和所述片段終點，確定所述當前構造位置的當前構造片段。

5.根據權利要求4所述的方法，其特征在于，所述構造規則至少包括：完全重復構造規則、部分重復構造規則、替換構造規則、交換構造規則中的一個；且其中，

所述根據隨機確定的構造規則、所述目標文本的構造位置和構造片段，重構所述目標文本，生成所述目標文本的構造文本，包括：

根據隨機確定的當前構造規則、所述當前構造片段，確定滿足所述當前構造規則的待編輯文本；

根據所述當前構造位置、所述待編輯文本，對所述目標文本執行重構處理，生成所述目標文本的構造文本。

6.根據權利要求4所述的方法，其特征在于，所述構造規則至少包括插入構造規則；且其中，

所述根據隨機確定的構造規則、所述目標文本的構造位置和構造片段，重構所述目標文本，生成所述目標文本的構造文本，包括：

根據所述插入構造規則、所述當前構造片段，從各預設插入文本中隨機確定一個待插入文本；

根據所述當前構造位置、所述待插入文本，對所述目標文本執行重構處理，生成所述目標文本的構造文本。

7.一種模型訓練方法，其特征在于，包括：

利用文本處理模型，對訓練數據中的構造文本執行文本平滑處理，獲得所述構造文本的預測文本；

根據所述訓練數據中的目標文本、所述預測文本，獲取所述文本處理模型的損失函數；

根據所述損失函數更新所述文本處理模型，直至所述損失函數滿足訓練結束條件，以獲得訓練好的文本處理模型；

其中，所述訓練數據是由如權利要求1至6中任一項所述的訓練數據生成方法所生成的。

8.根據權利要求7所述的方法，其特征在于，所述方法還包括：

獲取不平滑的仿真文本；

利用所述文本處理模型，對所述仿真文本執行文本平滑處理，并根據文本平滑處理結果，確定所述仿真文本中各字符特征單元對應的各預測標簽；

比對所述仿真文本中同一字符特征單元的預測標簽和真實標簽，并根據比對結果優化所述文本處理模型；

其中，所述預測標簽或所述真實標簽包括平滑標簽、不平滑標簽中的一個；

其中，所述字符特征單元包含至少一個字符。