[發明專利]一種模型訓練和識別方法、裝置、電子設備及存儲介質

在審

• 申請號: 202010615855.0
• 申請日: 2020-06-29
• 公開（公告）號: CN111753519A
• 公開（公告）日: 2020-10-09
• 發明（設計）人: 秦海寧;單培;張瑞飛
• 申請（專利權）人: 鼎富智能科技有限公司
• 主分類號: G06F40/20
• 分類號: G06F40/20;G06N3/08;G06N3/04
• 代理公司: 北京超凡宏宇專利代理事務所(特殊普通合伙) 11463
• 代理人: 唐正瑜

本申請提供一種模型訓練和識別方法、裝置、電子設備及存儲介質，用于改善對生成對抗網絡進行訓練時出現梯度爆炸或者梯度消失的問題。該方法包括：獲得文本數據和文本數據對應的文本類別；以文本數據為訓練數據，以文本類別為訓練標簽，對生成對抗網絡進行訓練，獲得生成對抗網絡模型，生成對抗網絡模型包括：生成器和判別器；其中，對生成對抗網絡進行訓練，包括：獲得狀態推測矩陣，狀態推測矩陣表征生成器的重要程度；對狀態觀測矩陣和狀態推測矩陣進行卡爾曼濾波運算，獲得生成對抗網絡模型的損失值，狀態觀測矩陣表征判別器的重要程度；根據生成對抗網絡模型的準確率調整生成對抗網絡模型的損失值。

技術領域

本申請涉及人工智能和機器學習的技術領域，具體而言，涉及一種模型訓練和識別方法、裝置、電子設備及存儲介質。

背景技術

模型訓練，是指根據訓練數據對目標模型進行訓練，具體的訓練方式根據訓練數據的情況可以包括：監督式學習和無監督學習等方式。

監督式學習(Supervised learning)，又被稱為監督式訓練，是機器學習的一種方法，可以由訓練資料中學到或建立一個學習模式(learning model)或學習函數，并依此模式推測新的實例。

無監督學習(unsupervised learning)，又被稱為無監督式訓練，是指機器學習的一種方法，沒有給定事先標記過的訓練示例，自動對輸入的數據進行分類或分群；無監督學習的主要包括：聚類分析(cluster analysis)、關系規則(association rule)、維度縮減(dimensionality reduce)和對抗學習(AdversarialLearning)等。

目前，在對生成對抗網絡進行訓練時，為了提高對生成對抗網絡進行訓練的穩定性，通常是直接將預測標簽和訓練標簽之間的損失值在一個恒定的區間范圍截斷。這種方法極大地限制了生成對抗網絡模型的表現能力，生成對抗網絡難以模擬出復雜的函數，在具體的實踐過程中發現，使用這種方法對生成對抗網絡進行訓練時出現梯度爆炸或者梯度消失的問題。

發明內容

本申請實施例的目的在于提供一種模型訓練和識別方法、裝置、電子設備及存儲介質，用于改善對生成對抗網絡進行訓練時出現梯度爆炸或者梯度消失的問題。

本申請實施例提供了一種模型訓練方法，包括：獲得文本數據和文本數據對應的文本類別；以文本數據為訓練數據，以文本類別為訓練標簽，對生成對抗網絡進行訓練，獲得生成對抗網絡模型，生成對抗網絡模型包括：生成器和判別器；其中，對生成對抗網絡進行訓練，包括：獲得狀態推測矩陣，狀態推測矩陣表征生成器的重要程度；對狀態觀測矩陣和狀態推測矩陣進行卡爾曼濾波運算，獲得生成對抗網絡模型的損失值，狀態觀測矩陣表征判別器的重要程度；根據生成對抗網絡模型的準確率調整生成對抗網絡模型的損失值。在上述的實現過程中，對生成對抗網絡模型進行訓練時，對狀態觀測矩陣和獲得的狀態推測矩陣進行卡爾曼濾波運算，獲得生成對抗網絡模型的損失值，并根據生成對抗網絡模型的準確率調整生成對抗網絡模型的損失值；也就是說，在對生成對抗網絡進行訓練的過程中動態地根據生成對抗網絡模型的準確率調整生成對抗網絡模型的損失值，從而盡快地找到損失值的閾值范圍進行截斷，使得生成對抗網絡模型更快更穩定地收斂，有效地改善了對生成對抗網絡進行訓練時出現梯度爆炸或者梯度消失的問題。

可選地，在本申請實施例中，根據生成對抗網絡模型的準確率調整生成對抗網絡模型的損失值，包括：判斷生成對抗網絡模型的準確率是否逐漸收斂；若是，則將生成對抗網絡模型的損失值向第一方向重置；若否，則將生成對抗網絡模型的損失值向第二方向重置，第一方向與第二方向相反。