[發明專利]大規模網絡表征學習的超參數優化方法和裝置

有效

• 申請號: 201910515890.2
• 申請日: 2019-06-14
• 公開（公告）號: CN110322021B
• 公開（公告）日: 2021-03-30
• 發明（設計）人: 朱文武;涂珂;崔鵬
• 申請（專利權）人: 清華大學
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 北京清亦華知識產權代理事務所(普通合伙) 11201
• 代理人: 張潤

本申請提出一種大規模網絡表征學習的超參數優化方法和裝置，其中，方法包括：對原始網絡進行采樣，得到多個子網絡，根據預設算法提取原始網絡的第一圖像特征和多個子網絡中每個子網絡的第二圖像特征，根據高斯過程回歸擬合每個子網絡的第二圖像特征和超參數到最終效果的映射，根據相似度函數對第一圖像特征和每個第二圖像特征計算，獲取原始網絡和每個子網絡的網絡相似度，學習多個子網絡中每個子網絡的第二圖像特征和超參數到最終效果的映射生成原始網絡的最優超參數，以便通過原始網絡進行信息識別。該方法學習多個子網絡中的超參數和第二圖像特征到最終效果的映射，來最優化原始網絡的最優超參，能夠快速有效的自動化調整原始網絡的超參數。

技術領域

本申請涉及網絡學習技術領域，尤其涉及一種大規模網絡表征學習的超參數優化方法和裝置。

背景技術

網絡表征學習是一種有效處理網絡數據的方式。為了取得良好的效果，網絡表征學習通常需要人為仔細的調參。但是，現實網絡的大規模給自動機器學習應用于網絡表征學習方法帶來困難。

發明內容

本申請旨在至少在一定程度上解決相關技術中的技術問題之一。

本申請提出一種大規模網絡表征學習的超參數優化方法，以解決現有技術中對大規模網絡表征學習的超參數進行優化效率較低的技術問題。

本申請一方面實施例提出了大規模網絡表征學習的超參數優化方法，包括：

對原始網絡進行采樣，得到多個子網絡；

根據預設算法提取所述原始網絡的第一圖像特征和所述多個子網絡中每個子網絡的第二圖像特征；

根據高斯過程回歸擬合所述多個子網絡中每個子網絡的第二圖像特征和超參數到最終效果的映射；

根據相似度函數對所述第一圖像特征和每個第二圖像特征計算，獲取所述原始網絡和每個子網絡的網絡相似度；

根據所述原始網絡和每個子網絡的網絡相似度，學習所述多個子網絡中每個子網絡的第二圖像特征和超參數到最終效果的映射生成所述原始網絡的最優超參，以便通過所述原始網絡進行信息識別。

本申請實施例的大規模網絡表征學習的超參數優化方法，通過對原始網絡進行采樣，得到多個子網絡，根據預設算法提取原始網絡的第一圖像特征和多個子網絡中每個子網絡的第二圖像特征，根據高斯過程回歸擬合多個子網絡中每個子網絡的第二圖像特征和超參數到最終結果的映射，根據相似度函數對第一圖像特征和每個第二圖像特征計算，獲取原始網絡和每個子網絡的網絡相似度，根據所述原始網絡和每個子網絡的網絡相似度，學習所述多個子網絡中每個子網絡的第二圖像特征和超參數到最終效果的映射生成原始網絡的最優超參，以便通過原始網絡進行信息識別。該方法通過學習多個子網絡中的超參數和第二圖像特征到最終效果的映射，來最優化原始網絡的最優超參，能夠快速有效的自動化調整原始網絡的超參數。

本申請另一方面實施例提出了一種大規模網絡表征學習的超參數優化裝置，包括：

采樣模塊，用于對原始網絡進行采樣，得到多個子網絡；

提取模塊，用于根據預設算法提取所述原始網絡的第一圖像特征和所述多個子網絡中每個子網絡的第二圖像特征；

擬合模塊，用于根據高斯過程回歸擬合所述多個子網絡中每個子網絡的第二圖像特征和超參數到最終效果的映射；計算模塊，用于根據相似度函數對所述第一圖像特征和每個第二圖像特征計算，獲取所述原始網絡和每個子網絡的網絡相似度；

生成模塊，用于根據所述原始網絡和每個子網絡的網絡相似度，學習所述多個子網絡中每個子網絡的第二圖像特征和超參數到最終效果的映射生成所述原始網絡的最優超參，以便通過所述原始網絡進行信息識別。