[發明專利]模型生成方法和裝置

在審

• 申請號: 202010025290.0
• 申請日: 2020-01-10
• 公開（公告）號: CN113128677A
• 公開（公告）日: 2021-07-16
• 發明（設計）人: 希滕;張剛;溫圣召
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 王達佐;馬曉亞

本公開涉及人工智能領域。本公開的實施例公開了模型生成方法和裝置。該方法包括：通過依次執行多次迭代操作生成用于執行深度學習任務的神經網絡模型；迭代操作包括：基于當前的獎勵反饋值以及預設的中間監督策略搜索空間確定出預設的神經網絡模型在當前迭代操作中的中間監督策略；基于在當前的迭代操作中確定出的中間監督策略對預設的神經網絡模型進行訓練，并根據訓練后的神經網絡模型的性能更新獎勵反饋值；響應于確定獎勵反饋值達到預設的收斂條件或迭代操作的次數達到預設的閾值，停止迭代操作，基于當前迭代操作中訓練后的神經網絡模型的參數生成用于執行深度學習任務的神經網絡模型。該方法可以加快神經網絡的訓練速度。

技術領域

本公開的實施例涉及計算機技術領域，具體涉及人工智能技術領域，尤其涉及模型生成方法和裝置。

背景技術

隨著人工智能技術和數據存儲技術的發展，深度神經網絡在許多領域取得了重要的成果。深度神經網絡訓練中通常采用梯度下降、反向傳播的方法來迭代更新網絡參數。然而，隨著深度的增加，會出現梯度消失的問題，由此導致誤差無法準確傳導至各個網絡層。

針對梯度消失的問題，可以采用中級監督的方式，在深度神經網絡的中間層加入用于監督訓練的損失函數，使得神經網絡的中層誤差傳導至前面的網絡層，并聯合深度神經網絡最后的輸出層的總體損失函數一起訓練神經網絡。目前的方案可以在指定的中間層加入中級損失函數。而加入損失函數的位置和數量對神經網絡的精度、訓練速度以及訓練所占用的內存資源會產生直接的影響，可能產生模型在訓練中無法收斂的問題。

發明內容

本公開的實施例提出了模型生成方法和裝置、電子設備和計算機可讀介質。

第一方面，本公開的實施例提供了一種模型生成方法，包括：通過依次執行多次迭代操作生成用于執行深度學習任務的神經網絡模型；其中，迭代操作包括：基于當前的獎勵反饋值以及預設的中間監督策略搜索空間確定出預設的神經網絡模型在當前迭代操作中的中間監督策略，其中，獎勵反饋值的初始值是預設的數值，預設的中間監督策略搜索空間包括在預設的神經網絡模型加入的中間損失函數的數量搜索空間和位置搜索空間，中間損失函數用于監督預設的神經網絡模型中對應位置之前的網絡層的訓練；基于在當前的迭代操作中確定出的中間監督策略對預設的神經網絡模型進行訓練，得到訓練后的神經網絡模型的性能，并根據訓練后的神經網絡模型的性能更新獎勵反饋值；響應于確定獎勵反饋值達到預設的收斂條件或迭代操作的次數達到預設的閾值，停止迭代操作，基于當前迭代操作中訓練后的神經網絡模型的參數生成用于執行深度學習任務的神經網絡模型。

在一些實施例中，上述基于當前的獎勵反饋值，在預設的中間監督策略搜索空間中確定出預設的神經網絡模型在當前迭代操作中的中間監督策略，包括：基于當前的獎勵反饋值，在數量搜索空間內確定出當前迭代操作加入的中間損失函數的數量；基于當前的獎勵反饋值以及搜索出的加入的中間損失函數的數量，在位置搜索空間內搜索出當前迭代操作加入的中間損失函數的位置。

在一些實施例中，上述預設的中間監督策略搜索空間還包括加入的中間損失函數的參數搜索空間；基于預設的中間監督策略搜索空間確定出預設的神經網絡模型在當前迭代操作中的中間監督策略，包括：基于數量搜索空間和位置搜索空間確定當前迭代操作中在預設的神經網絡模型加入的中間損失函數的目標數量和目標位置；在參數搜索空間內確定出當前迭代操作中在預設的神經網絡模型加入的中間損失函數的參數，并基于所確定出的參數構建當前迭代操作中在各目標位置加入的中間損失函數。

在一些實施例中，上述用于執行深度學習任務的神經網絡模型包括用于檢測目標對象的關鍵點的神經網絡模型；加入的中間損失函數的參數搜索空間包括：關鍵點熱力圖的尺寸參數的搜索空間，關鍵點熱力圖中的像素值表征關鍵點落在對應像素位置的置信度。

在一些實施例中，上述訓練后的神經網絡模型的性能按照如下方式得到：基于當前的迭代操作中加入的各中間損失函數在神經網絡模型訓練后的損失函數值，確定訓練后的神經網絡模型的性能。