[發明專利]數據處理方法、裝置及計算機存儲介質

在審

• 申請號: 202110080558.5
• 申請日: 2021-01-21
• 公開（公告）號: CN112784611A
• 公開（公告）日: 2021-05-11
• 發明（設計）人: 張高偉;趙德祥;孔二勇;劉宇
• 申請（專利權）人: 阿里巴巴集團控股有限公司
• 主分類號: G06F40/58
• 分類號: G06F40/58;G06F40/232;G06F16/33;G06F16/387;G06N3/08
• 代理公司: 北京合智同創知識產權代理有限公司 11545
• 代理人: 李杰;蘭淑鐸

1.一種數據處理方法，包括：

獲取包含正確語料元素和錯誤語料元素的真實平行語料，用所述真實平行語料訓練反向錯誤生成模型；

獲取模擬正確語料元素，用所述反向錯誤生成模型預測所述模擬正確語料元素對應的模擬錯誤語料元素，生成包含所述模擬正確語料元素和對應的模擬錯誤語料元素的模擬平行語料；

用所述模擬平行語料訓練序列映射模型得到預訓練模型；

用所述真實平行語料進行所述預訓練模型調整，得到糾錯模型。

2.如權利要求1所述的方法，其中，用所述真實平行語料進行所述預訓練模型調整，包括：

采用所述真實平行語料訓練所述預訓練模型，在訓練過程中，增大所述真實平行語料中的錯誤語料元素包含的錯誤字符所對應的交叉熵的權重系數。

3.如權利要求1所述的方法，其中，用所述真實平行語料進行所述預訓練模型調整，包括：

采用所述真實平行語料訓練所述預訓練模型，在訓練過程中，按照真實平行語料包含的字符的順序調整字符所對應的交叉熵的權重系數，其中，字符排序越靠前，該字符所對應的交叉熵的權重系數越大。

4.如權利要求1所述的方法，其中，用所述真實平行語料進行所述預訓練模型調整，包括：

采用包含所述模擬平行語料和真實平行語料的混合語料集合調整所述預訓練模型；或者，

采用包含所述真實平行語料的單一語料集合調整所述預訓練模型。

5.如權利要求1所述的方法，其中，用所述模擬平行語料訓練序列映射模型得到預訓練模型，包括：

根據所述模擬平行語料訓練序列映射模型得到中間預訓練模型；

獲取預先確定的錯誤語料，根據所述錯誤語料調整所述中間預訓練模型，得到調整后的目標預訓練模型，其中，所述錯誤語料中錯誤語料元素與正確語料元素的差異程度大于所述模擬平行語料中模擬錯誤語料元素與模擬正確語料元素的差異程度。

6.如權利要求1所述的方法，其中，用所述模擬平行語料訓練序列映射模型得到預訓練模型，包括：

確定切詞粒度，對所述模擬正確語料元素和模擬錯誤語料元素進行切詞處理；

根據切詞后的模擬正確語料元素和模擬錯誤語料元素訓練所述列映射模型得到預訓練模型。

7.如權利要求6所述的方法，確定切詞粒度，包括：

確定所述模擬正確語料元素和模擬錯誤語料元素的差異部分，將所述差異部分的長度作為切詞粒度；和/或，

以單個字符作為切詞粒度。

8.如權利要求6所述的方法，確定切詞粒度，對所述模擬正確語料元素和模擬錯誤語料元素進行切詞處理，包括：

從多個預設的切詞粒度中，確定待使用的切詞粒度，其中，所述多個預設的切詞粒度包括：單字粒度、詞組粒度、語句粒度、混合粒度，所述混合粒度用于指示以單字、詞組和語句中部分或全部的組合為粒度；

根據待使用的切詞粒度，對所述模擬正確語料元素和所述模擬錯誤語料元素進行對應切詞處理。

9.一種數據處理方法，包括：

接收攜帶查詢詞的查詢請求；

通過訓練完成的糾錯模型，對存在錯誤的查詢詞進行糾錯處理，獲得正確的查詢詞，其中，所述糾錯模型為根據權利要求1-8中任一項所述的數據處理方法獲得的糾錯模型；

根據所述糾錯后的查詢詞，召回所述查詢請求對應的查詢結果。

10.一種數據處理裝置，包括：

錯誤模型訓練模塊，獲取包含正確語料元素和錯誤語料元素的真實平行語料，用所述真實平行語料訓練反向錯誤生成模型；

模擬模塊，獲取模擬正確語料元素，用所述反向錯誤生成模型預測所述模擬正確語料元素對應的模擬錯誤語料元素，生成包含所述模擬正確語料元素和對應的模擬錯誤語料元素的模擬平行語料；

預訓練模塊，用所述模擬平行語料訓練序列映射模型得到預訓練模型；

糾錯模型訓練模塊，用所述真實平行語料進行所述預訓練模型調整，得到糾錯模型。

11.一種計算機存儲介質，其上存儲有計算機程序，該程序被處理器執行時實現如權利要求1-8中任一所述的數據處理方法。