[發(fā)明專利]機器學習的隨機數(shù)據(jù)增強

在審

• 申請?zhí)枺?/td>: 202010933868.2
• 申請日: 2020-09-08
• 公開（公告）號: CN112465147A
• 公開（公告）日: 2021-03-09
• 發(fā)明（設計）人: 張丹;E·胡格布姆
• 申請（專利權）人: 羅伯特·博世有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N3/08;G06N3/04;G06K9/62;G06K9/34;G10L25/30;G10L25/51
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 周學斌;申屠偉進

1.一種使用訓練數(shù)據(jù)的數(shù)據(jù)增強來訓練機器可學習模型的計算機實現(xiàn)的方法（200），包括

-訪問（210）包括數(shù)據(jù)實例（x_d）和類別標簽（y_d）的訓練數(shù)據(jù)，其中，類別標簽（y_d）表示來自類別集合（{0,1，…，C-1}）的類別；

-使用訓練數(shù)據(jù)來訓練（220）機器可學習模型（300），其中，訓練包括通過以下步驟來增強訓練數(shù)據(jù)：

-從偽隨機或確定性過程獲得（230）變量（s）；

-通過以取決于變量（s）的方式修改數(shù)據(jù)實例（x）以獲得新的數(shù)據(jù)實例（x*）來從訓練數(shù)據(jù)的數(shù)據(jù)實例（x）導出（240）新的數(shù)據(jù)實例（x*=g(x,s)）；

-使用具有數(shù)據(jù)實例（x）的類別標簽（y）和變量（s）作為輸入的條件可逆函數(shù)（y*=f(y,s)）來為新的數(shù)據(jù)實例（x*）確定（250）預測目標標簽（y*）；

-在機器可學習模型的訓練中使用（260）新的數(shù)據(jù)實例（x*）和預測目標標簽（y*）。

2.根據(jù)權利要求1所述的方法（200），其中，從數(shù)據(jù)實例（x）導出（240）新的數(shù)據(jù)實例（x*）包括：將數(shù)據(jù)增強技術應用于數(shù)據(jù)實例（x），并且通過使用變量（s）的數(shù)據(jù)增強技術來控制數(shù)據(jù)增強。

3.根據(jù)權利要求2所述的方法（200），其中，變量（s）是數(shù)據(jù)增強技術的種子或控制參數(shù)。

4.根據(jù)權利要求1至3中任一項所述的方法（200），其中，數(shù)據(jù)增強技術由機器可學習模型（300）的或在其之前的預處理層（310）提供，所述預處理層接收數(shù)據(jù)實例（x）和變量（s）作為輸入，并且提供新的數(shù)據(jù)實例（x*）作為輸出。

5.根據(jù)權利要求1所述的方法（200），其中，從數(shù)據(jù)實例（x）導出（240）新的數(shù)據(jù)實例（x*）包括，在訓練期間：

-使用數(shù)據(jù)實例（x）作為機器可學習模型的輸入；

-根據(jù)變量（s）修改機器可學習模型的中間輸出，以建立新的數(shù)據(jù)實例（x*）作為機器可學習模型的經(jīng)修改的中間輸出；以及

-繼續(xù)使用經(jīng)修改的中間輸出來訓練機器可學習模型。

6.根據(jù)權利要求5所述的方法（200），其中，機器可學習模型（300）是神經(jīng)網(wǎng)絡，并且其中，中間輸出包括神經(jīng)網(wǎng)絡的隱藏單元輸出。

7.根據(jù)權利要求6所述的方法（200），其中，修改中間輸出包括：將隱藏單元輸出與變量（s）聯(lián)結。