[發明專利]神經網絡的生成方法、生成裝置和電子設備

在審

• 申請號: 201811269254.8
• 申請日: 2018-10-29
• 公開（公告）號: CN111105029A
• 公開（公告）日: 2020-05-05
• 發明（設計）人: 陳玉康;張騫;黃暢
• 申請（專利權）人: 北京地平線機器人技術研發有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08
• 代理公司: 北京彩和律師事務所 11688
• 代理人: 劉磊;閆桑田

公開了一種神經網絡的生成方法、生成裝置和電子設備。該方法包括：通過進化算法從神經網絡框架中獲得最優神經網絡和最劣神經網絡；通過強化學習算法從所述最優神經網絡獲得優化神經網絡；通過將所述優化神經網絡加入所述神經網絡框架并從所述神經網絡框架中刪除所述最劣神經網絡來更新所述神經網絡框架；以及，從更新后的神經網絡框架中確定最終生成的神經網絡。這樣，可以通過結合進化算法和強化學習算法來從神經網絡框架優化和更新神經網絡，從而快速和穩定地自動生成神經網絡結構。

技術領域

本申請涉及深度學習和神經網絡領域，且更為具體地，涉及一種神經網絡的生產方法、生成裝置和電子設備。

背景技術

目前，深度學習以及神經網絡已經廣泛應用于計算機視覺、自然語言處理、語音信號處理等領域。此外，深度學習以及神經網絡在圖像分類、物體檢測、語義分割、文本翻譯等領域，也展現出了接近甚至超越人類的水平。

針對上述應用領域，設計出了各種不同的神經網絡結構，以解決各領域中的特定問題。但是，這些神經網絡結構都是人類專家手工設計的，需要大量的人工先驗經驗和大量的實驗驗證，且需要耗費大量的計算資源和時間來不斷嘗試。此外，人工設計的神經網絡結構還無法針對不同任務進行自適應的變換，可遷移性差。

因此，期望提供的神經網絡的生成方案。

發明內容

為了解決上述技術問題，提出了本申請。本申請的實施例提供了一種神經網絡的生成方法、生成裝置和電子設備，其通過結合進化算法和強化學習算法來從神經網絡框架優化和更新神經網絡，從而快速和穩定地自動生成神經網絡結構。

根據本申請的一個方面，提供了一種神經網絡的生成方法，包括：通過進化算法從神經網絡框架中獲得最優神經網絡和最劣神經網絡；通過強化學習算法從所述最優神經網絡獲得優化神經網絡；通過將所述優化神經網絡加入所述神經網絡框架并從所述神經網絡框架中刪除所述最劣神經網絡來更新所述神經網絡框架；以及，從更新后的神經網絡框架中確定最終生成的神經網絡。

根據本申請的另一方面，提供了一種神經網絡的生成裝置，包括：進化單元，用于通過進化算法從神經網絡框架中獲得最優神經網絡和最劣神經網絡；強化學習單元，用于通過強化學習算法從所述進化單元獲得的最優神經網絡獲得優化神經網絡；更新單元，用于通過將所述強化學習單元獲得的所述優化神經網絡加入所述神經網絡框架并從所述神經網絡框架中刪除所述進化單元獲得的所述最劣神經網絡來更新所述神經網絡框架；以及，選擇單元，用于從所述更新單元更新后的神經網絡框架中確定最終生成的神經網絡。

根據本申請的再一方面，提供了一種電子設備，包括：處理器；以及，存儲器，在所述存儲器中存儲有計算機程序指令，所述計算機程序指令在被所述處理器運行時使得所述處理器執行如上所述的神經網絡的生成方法。

根據本申請的又一方面，提供了一種計算機可讀介質，其上存儲有計算機程序指令，所述計算機程序指令在被處理器運行時使得所述處理器執行如上所述的神經網絡的生成方法。

與現有技術相比，本申請提供的神經網絡的生成方法、生成裝置和電子設備可以通過進化算法從神經網絡框架中獲得最優神經網絡和最劣神經網絡；通過強化學習算法從所述最優神經網絡獲得優化神經網絡；通過將所述優化神經網絡加入所述神經網絡框架并從所述神經網絡框架中刪除所述最劣神經網絡來更新所述神經網絡框架；以及，從更新后的神經網絡框架中確定最終生成的神經網絡。這樣，由于通過強化學習算法替代進化算法中的隨機變異，來基于每次的進化結果的反饋而更新神經網絡框架，可以提高神經網絡的生成速度和穩定性。

附圖說明

通過結合附圖對本申請實施例進行更詳細的描述，本申請的上述以及其他目的、特征和優勢將變得更加明顯。附圖用來提供對本申請實施例的進一步理解，并且構成說明書的一部分，與本申請實施例一起用于解釋本申請，并不構成對本申請的限制。在附圖中，相同的參考標號通常代表相同部件或步驟。