[發明專利]神經網絡模型的生成方法及裝置

在審

• 申請號: 201910565729.6
• 申請日: 2019-06-27
• 公開（公告）號: CN110363286A
• 公開（公告）日: 2019-10-22
• 發明（設計）人: 黃盈;周大軍;李旭冬
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 北京康信知識產權代理有限責任公司 11240
• 代理人: 周婷婷

本發明公開了一種神經網絡模型的生成方法及裝置。其中，該方法包括：從超參數值集合中確定第一神經網絡模型中的超參數所對應的超參數值；獲取對所述第一神經網絡模型進行訓練得到的第二神經網絡模型的第一模型精確度；在所述第一模型精確度低于目標精確度的情況下，將所述第一神經網絡模型中的部分超參數的超參數值更新為所述超參數值集合中對應的目標超參數值，得到第三神經網絡模型。本發明解決了生成神經網絡模型的效率較低的技術問題。

技術領域

本發明涉及計算機領域，具體而言，涉及一種神經網絡模型的生成方法及裝置。

背景技術

目前搭建神經網絡模型的過程中都是由人工調整神經網絡架構，這種方法是100％手動，是研究人員和機器學習工程師最廣泛采用的方法。工作流程非常簡單，比如：設計了一個游戲人工智能(AI)的模仿學習流程，然后按順序迭代不同的神經網絡模型架構，訓練出該神經網絡架構的模仿學習模型權重，應用該權重到游戲中觀察其AI效果，直到模型滿足AI的需求。

首先人工設計神經網絡架構需要開發人員對深度學習、神經網絡架構有較豐富的經驗才能夠設計出一款適合AI需求的神經網絡架構。如果缺乏機器學習的經驗，那么很難設計出一個性能出色的機器學習模型。其次，基于人工的方案，在把機器學習用于新應用上時，必須投入人力來完成針對新應用的神經網絡架構設計。此外，針對同一款應用要想獲得一個效果比較好的AI，需要實驗很多神經網絡架構，這需要耗費大量的人工開銷。

針對上述的問題，目前尚未提出有效的解決方案。

發明內容

本發明實施例提供了一種神經網絡模型的生成方法及裝置，以至少解決生成神經網絡模型的效率較低的技術問題。

根據本發明實施例的一個方面，提供了一種神經網絡模型的生成方法，包括：

從超參數值集合中確定第一神經網絡模型中的超參數所對應的超參數值，其中，第一神經網絡模型是輸入層、具有超參數值的結構層、和輸出層通過目標連接方式進行連接得到的神經網絡模型；

獲取對第一神經網絡模型進行訓練得到的第二神經網絡模型的第一模型精確度，其中，第一模型精確度用于指示使用第二神經網絡模型對驗證樣本集合進行檢測的精確度；

在第一模型精確度低于目標精確度的情況下，將第一神經網絡模型中的部分超參數的超參數值更新為超參數值集合中對應的目標超參數值，得到第三神經網絡模型，其中，使用對第三神經網絡模型進行訓練得到的第四神經網絡模型對驗證樣本集合進行檢測的第二模型精確度高于或等于目標精確度。

根據本發明實施例的另一方面，還提供了一種神經網絡模型的生成裝置，包括：

確定模塊，用于從超參數值集合中確定第一神經網絡模型中的超參數所對應的超參數值，其中，所述第一神經網絡模型是輸入層、具有所述超參數值的結構層、和輸出層通過所述目標連接方式進行連接得到的神經網絡模型；

獲取模塊，用于獲取對所述第一神經網絡模型進行訓練得到的第二神經網絡模型的第一模型精確度，其中，所述第一模型精確度用于指示使用所述第二神經網絡模型對驗證樣本集合進行檢測的精確度；

更新模塊，用于在所述第一模型精確度低于目標精確度的情況下，將所述第一神經網絡模型中的部分超參數的超參數值更新為所述超參數值集合中對應的目標超參數值，得到第三神經網絡模型，其中，使用對所述第三神經網絡模型進行訓練得到的第四神經網絡模型對所述驗證樣本集合進行檢測的第二模型精確度高于或等于所述目標精確度。

可選地，所述結構層包括第一殘差網絡和第二殘差網絡，其中，所述確定模塊包括：

第一確定單元，用于從第一超參數值子集合中確定所述第一殘差網絡的第一超參數所對應的第一超參數值，其中，所述第一殘差網絡所具有的多個超參數包括所述第一超參數；