[發明專利]篇章翻譯網絡的數據增強方法

有效

• 申請號: 202010432277.7
• 申請日: 2020-05-20
• 公開（公告）號: CN111767742B
• 公開（公告）日: 2023-07-25
• 發明（設計）人: 陳巍華
• 申請（專利權）人: 云知聲智能科技股份有限公司;廈門云知芯智能科技有限公司
• 主分類號: G06F40/42
• 分類號: G06F40/42;G06F40/58
• 代理公司: 北京冠和權律師事務所 11399
• 代理人: 安琪

1.篇章翻譯網絡的數據增強方法，其特征在于，所述篇章翻譯網絡的數據增強方法包括如下步驟：

步驟T1，根據關于源語言的源語料S1和目標語料S2對預設生成網絡進行訓練，以此對應得到源生成網絡模型M1和目標生成網絡模型M2；

步驟T2，通過所述源語料S1和所述目標語料S2，使用2步法對篇章翻譯網絡進行訓練，以此得到翻譯模型M3，再根據所述翻譯模型M3，生成初級篇章翻譯網絡模型M4；

步驟T3，通過所述源生成網絡模型M1和所述目標生成網絡模型M2，分別將所述源語料S1和所述目標語料S2轉換成源篇章數據C1和目標篇章數據C2；

步驟T4，通過所述源篇章數據C1和所述目標篇章數據C2，對所述初級篇章翻譯網絡模型M4進行處理，以此生成期望篇章翻譯網絡模型M5；

在所述步驟T1中，根據關于源語言的源語料S1和目標語料S2對預設生成網絡進行訓練，以此對應得到源生成網絡模型M1和目標生成網絡模型M2，包括：

步驟T101，根據所述源語料S1，對關于NLU領域的生成網絡進行第一單語訓練；

步驟T102，根據所述目標語料S2，對關于NLU領域的生成網絡進行第二單語訓練；

步驟T103，根據所述第一單語訓練和所述第二單語訓練的結果，以此得到所述源生成網絡模型M1和所述目標生成網絡模型M2；

在所述步驟T101中，根據所述源語料S1，對關于NLU領域的生成網絡進行第一單語訓練，包括：

將所述源語料S1進行單語形式摘選，以此獲得單語源語料，再根據所述單語源語料對關于GPT的生成網絡或者GPT-2的生成網絡進行所述第一單語訓練；

在所述步驟T102中，根據所述目標語料S2，對關于NLU領域的生成網絡進行第二單語訓練，包括：

將所述目標語料S2進行單語形式摘選，以此獲得單語目標語料，再根據所述單語目標語料對關于GPT的生成網絡或者GPT-2的生成網絡進行所述第二單語訓練；

在所述步驟T2中，通過所述源語料S1和所述目標語料S2，使用2步法對篇章翻譯網絡進行訓練，以此得到翻譯模型M3，再根據所述翻譯模型M3，生成初級篇章翻譯網絡模型M4，包括：

步驟T201，通過所述源語料S1和所述目標語料S2，使用2步法對篇章翻譯網絡的源端和目標端進行重復訓練，以此得到所述翻譯模型M3；

步驟T202，根據所述翻譯模型M3的源端編碼器Encoder1和目標端解碼器Decoder1的網絡權值，生成所述初級篇章翻譯網絡模型M4；

在所述步驟T201中，通過所述源語料S1和所述目標語料S2，使用2步法對篇章翻譯網絡的源端和目標端進行重復訓練，以此得到所述翻譯模型M3，包括：

通過所述源語料S1和所述目標語料S2，對所述篇章翻譯網絡的源端和目標端分別進行關于數據重復訓練和框架評估的2步法訓練，以此得到所述翻譯模型M3；

在所述步驟T202中，根據所述翻譯模型M3的源端編碼器Encoder1和目標端解碼器Decoder1的網絡權值，生成所述初級篇章翻譯網絡模型M4，包括：

步驟T2021，根據翻譯網絡演變算法，計算獲得所述翻譯模型M3的源端編碼器Encoder1和目標端解碼器Decoder1各自的第一網絡權值和第二網絡權值；

步驟T2022，將所述第一網絡權值和所述第二網絡權值拷貝至所述篇章翻譯網絡對應的源端編碼器Encoder2和目標端解碼器Decoder2，以此生成所述初級篇章翻譯網絡模型M4；

在所述步驟T3中，通過所述源生成網絡模型M1和所述目標生成網絡模型M2，分別將所述源語料S1和所述目標語料S2轉換成源篇章數據C1和目標篇章數據C2，包括：

步驟T301，通過所述源生成網絡模型M1對句級別化的所述源語料S1進行數據處理，以此得到與所述源語料S1相關的源篇章數據C1；

步驟T302，通過所述目標生成網絡模型M2對句級別化的所述目標語料S2進行數據處理，以此得到與所述目標語料S2相關的目標篇章數據C2。