[發明專利]優化器學習的方法、裝置、電子設備和可讀存儲介質

在審

• 申請號: 202010625746.7
• 申請日: 2020-07-01
• 公開（公告）號: CN112001489A
• 公開（公告）日: 2020-11-27
• 發明（設計）人: 方曉敏;王凡;莫也蘭;何徑舟
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04;G06N3/063
• 代理公司: 北京鴻德海業知識產權代理事務所(普通合伙) 11412
• 代理人: 田宏賓

1.一種優化器學習的方法，包括：

獲取訓練數據，所述訓練數據中包含多個數據集，每個數據集包含神經網絡的屬性信息、神經網絡的優化器信息以及優化器的參數信息；

將各數據集中的神經網絡的屬性信息以及神經網絡的優化器信息作為輸入，將各數據集中的優化器的參數信息作為輸出，訓練元學習模型，直至所述元學習模型收斂。

2.根據權利要求1所述的方法，其中，所述神經網絡的屬性信息包含神經網絡的結構信息以及神經網絡的任務信息中的至少一種。

3.根據權利要求1所述的方法，其中，所述將各數據集中的神經網絡的屬性信息以及神經網絡的優化器信息作為輸入，將各數據集中的優化器的參數信息作為輸出，訓練元學習模型包括：

將當前元學習模型的參數作為第一參數；

使用噪聲對所述第一參數進行抖動，獲取多個抖動參數；

根據所述多個抖動參數，構建多個抖動元學習模型；

將各數據集中的神經網絡的屬性信息以及神經網絡的優化器信息作為輸入，將各數據集中的優化器的參數信息作為輸出，分別訓練所述多個抖動元學習模型；

根據訓練結果，選取滿足預設條件的抖動元學習模型作為最終元學習模型。

4.根據權利要求3所述的方法，其中，所述根據訓練結果，選取滿足預設條件的抖動元學習模型作為最終元學習模型包括：

根據訓練結果，確定滿足預設條件的抖動元學習模型的抖動參數；

將所確定的抖動參數作為第一參數之后，轉至執行使用噪聲對第一參數進行抖動的步驟；

以此迭代預設次數之后，將所選取的抖動元學習模型作為最終元學習模型。

5.一種優化器學習的裝置，包括：

獲取單元，用于獲取訓練數據，所述訓練數據中包含多個數據集，每個數據集包含神經網絡的屬性信息、神經網絡的優化器信息以及優化器的參數信息；

訓練單元，用于將各數據集中的神經網絡的屬性信息以及神經網絡的優化器信息作為輸入，將各數據集中的優化器的參數信息作為輸出，訓練元學習模型，直至所述元學習模型收斂。

6.根據權利要求5所述的裝置，其中，所述獲取單元獲取的神經網絡的屬性信息包含神經網絡的結構信息以及神經網絡的任務信息中的至少一種。

7.根據權利要求5所述的裝置，其中，所述訓練單元在將各數據集中的神經網絡的屬性信息以及神經網絡的優化器信息作為輸入，將各數據集中的優化器的參數信息作為輸出，訓練元學習模型時，具體執行：

將當前元學習模型的參數作為第一參數；

使用噪聲對所述第一參數進行抖動，獲取多個抖動參數；

根據所述多個抖動參數，構建多個抖動元學習模型；

將各數據集中的神經網絡的屬性信息以及神經網絡的優化器信息作為輸入，將各數據集中的優化器的參數信息作為輸出，分別訓練所述多個抖動元學習模型；

根據訓練結果，選取滿足預設條件的抖動元學習模型作為最終元學習模型。

8.根據權利要求7所述的裝置，其中，所述訓練單元在根據訓練結果，選取滿足預設條件的抖動元學習模型作為最終元學習模型時，具體執行：

根據訓練結果，確定滿足預設條件的抖動元學習模型的抖動參數；

將所確定的抖動參數作為第一參數之后，轉至執行使用噪聲對第一參數進行抖動的步驟；

以此迭代預設次數之后，將所選取的抖動元學習模型作為最終元學習模型。

9.一種電子設備，其特征在于，包括：

至少一個處理器；以及

與所述至少一個處理器通信連接的存儲器；其中，

所述存儲器存儲有可被所述至少一個處理器執行的指令，所述指令被所述至少一個處理器執行，以使所述至少一個處理器能夠執行權利要求1-4中任一項所述的方法。

10.一種存儲有計算機指令的非瞬時計算機可讀存儲介質，其特征在于，所述計算機指令用于使所述計算機執行權利要求1-4中任一項所述的方法。