[發明專利]用于創建自動創建機器學習系統的系統的方法和設備

在審

• 申請號: 202110777133.X
• 申請日: 2021-07-09
• 公開（公告）號: CN113989801A
• 公開（公告）日: 2022-01-28
• 發明（設計）人: M·林道爾;A·澤拉;D·斯托爾;F·費雷拉;F·哈特;T·尼爾霍夫
• 申請（專利權）人: 羅伯特·博世有限公司
• 主分類號: G06V20/70
• 分類號: G06V20/70;G06V10/764;G06V20/58;G06K9/62;G06N5/00
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 張濤;劉春元

1.一種用于創建系統的計算機實現的方法，所述系統適合于為基于計算機的視覺（英語：Computer Vision）自動創建機器學習系統，所述方法包括以下步驟：

提供預給定的超參數，其中所述超參數包括表征使用哪種優化方法的至少一個第一參數以及表征所述機器學習系統是哪種類型的第二參數；

借助于BOHB（貝葉斯優化（BO）和超頻帶（HB）的縮寫）（11）為用于基于計算機的視覺的多個不同訓練數據集（10）的每個訓練數據集確定所述超參數的最優參數化；

借助于標準化度量評估針對所述多個不同訓練數據集的所有訓練數據集的所有最優參數化；

創建矩陣（13），其中所述矩陣（13）具有針對每個參數化和每個訓練數據集的經過評估的標準化度量；

確定每個訓練數據集的元特征（英語：meta-features）（14），其中所述元特征（14）表征所述訓練數據集的至少一個以下特性：圖像分辨率、類別數量、訓練數據點/測試數據點的數量以及視頻幀的數量；

初始化包括決策樹的系統；以及

根據所述元特征（10）和所述矩陣（13）優化所述決策樹，使得所述決策樹輸出借助于BOHB確定的最優參數化中的哪個是適合于給定元特征的參數化（16）。

2.根據權利要求1的方法，其中借助于AutoFolio（15）來優化所述決策樹的參數。

3.根據權利要求1或2所述的方法，其中在所述多個訓練數據集上確定所述標準化度量的平均值，其中選擇借助于BOHB（11）確定的超參數的參數化中的以下參數化，該參數化的標準化度量最接近于所述平均值，其中將該參數化針對所有訓練數據集的經過評估的標準化度量添加到矩陣（13）中。

4.根據前述權利要求中任一項所述的方法，其中在所述多個訓練數據集上確定所述標準化度量的平均值，其中選擇借助于BOHB（11）確定的超參數的參數化中的以下參數化，該參數化針對所述標準化度量，對于所有訓練數據集（10）平均而言具有最高的與所述標準化度量的平均值相比的標準化度量改進，其中將該配置針對所有訓練數據集的經過評估的標準化度量添加到所述矩陣（13）中。

5.根據前述權利要求中任一項所述的方法，其中借助于貪婪算法從所述多個元特征（14）中確定元特征子集，并且所述決策樹根據所述元特征子集和所述矩陣（13）確定適合的參數化。

6.根據前述權利要求中任一項所述的方法，其中提供另外的訓練數據集，其中為所述另外的訓練數據集確定元特征（14），然后使用所述決策樹根據所述元特征（14）和所述矩陣（13）來確定適合的參數化，其中基于所述適合的參數化創建機器學習系統并基于所述另外的訓練數據集來教導所述機器學習系統。

7.根據權利要求6所述的方法，其中基于所述第一參數創建所述機器學習系統，并且基于所述第二參數選擇用于所述機器學習系統的優化算法，并與選擇的配置對應地參數化所述優化算法。

8.根據權利要求7所述的方法，其中所述超參數還包括表征以下參數，所述參數表征批量大小（英語：batch size）、待用于訓練的數據點數量、學習率、應當用于評估所述機器學習系統的性能的數據點數量、所述機器學習系統的在教導所述機器學習系統過程中保持不變的參數的比值和/或權重衰減（英語：weight decay）。

9.一種計算機程序，其被設置為執行根據權利要求1至8中任一項所述的方法。

10.一種機器可讀存儲介質，其上存儲有根據權利要求9所述的計算機程序。

11.一種設備，其被設置為執行根據權利要求1至8中任一項所述的方法。