[發明專利]機器學習的隨機數據增強

在審

• 申請號: 202010933868.2
• 申請日: 2020-09-08
• 公開（公告）號: CN112465147A
• 公開（公告）日: 2021-03-09
• 發明（設計）人: 張丹;E·胡格布姆
• 申請（專利權）人: 羅伯特·博世有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N3/08;G06N3/04;G06K9/62;G06K9/34;G10L25/30;G10L25/51
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 周學斌;申屠偉進

描述了一種訓練方法，其中使用數據增強，在于通過以取決于相應變量（s）（例如，受相應變量控制或操縱）的方式修改現有數據實例（x）來從現有數據實例（x）導出新的數據實例。提供條件可逆函數（f）來基于相應的變量（s）為新的數據實例生成不同的預測目標標簽（y*）。由此，機器可學習模型不僅可以學習數據實例的類別標簽，而且可以學習修改的特性。通過進行訓練以學習此類修改的特性，機器可學習模型可以更好地學習數據實例的語義特征，并且由此可以學習更準確地對數據實例進行分類。在推斷的時候，條件可逆函數的逆函數（f^?1）可以被用來基于機器學習模型的輸出標簽（z）來為測試數據實例確定類別標簽。

技術領域

本發明涉及一種使用訓練數據的數據增強來訓練機器可學習模型的計算機實現的方法和系統。本發明進一步涉及一種用于使用機器學習模型通過分配類別標簽來對數據實例進行分類的計算機實現的方法和系統。本發明進一步涉及一種包括機器學習模型的計算機可讀介質，該機器學習模型被配置成通過分配類別標簽來對數據實例進行分類。本發明進一步涉及一種計算機可讀介質，該計算機可讀介質包括表示指令的數據，該指令被布置成使處理器系統實行至少一種計算機實現的方法。

背景技術

機器學習（“訓練”）模型廣泛用于許多現實生活應用中，諸如自主駕駛、機器人技術、制造、建筑控制等。例如，可以對機器可學習模型進行訓練以基于由一個或多個傳感器獲取的傳感器數據來推斷物理系統的狀態，該物理系統諸如是自主車輛或機器人等，或者是系統的環境（例如，車輛行駛的道路、機器人的工作空間等）。在推斷出狀態之后，可以例如使用一個或多個致動器來控制該物理系統，或者可以監視其操作。

然而，訓練機器可學習模型可能具有挑戰性。例如，對于深層神經網絡（在許多情況下，深層神經網絡是對于給定任務的最成功模型）而言，一個已知的問題是模型對訓練數據的“過度擬合”。

使用數據增強（data augmentation）來解決此問題是已知的。這樣的數據增強可以涉及通過從包括在訓練數據中的現有數據實例生成新的數據實例來增強機器可學習模型的訓練數據。例如，如果數據實例是圖像，則可以通過調整這些圖像的大小、對其進行裁剪、旋轉這些圖像、對其添加噪聲、使其失真等來生成新的圖像。在這里，術語“新的”可以指代這樣的圖像，其以這種形式不是原始訓練數據的一部分。

然而，即使在訓練期間使用了數據增強，對于機器可學習模型而言，學習準確地對數據實例進行分類仍然是一個挑戰。

發明內容

進一步改進對機器可學習模型數據的訓練是合期望的，該訓練使用數據增強來增強機器可學習模型的訓練數據。

根據本發明的第一方面，提供了一種計算機實現的方法和系統，用于使用訓練數據的數據增強來訓練機器可學習模型，如分別由權利要求1和14所限定的。根據本發明的另外的方面，提供了一種計算機實現的方法和系統，用于使用機器學習模型通過分配類別標簽來對數據實例進行分類，如分別由權利要求10和15所限定的。根據本發明的另外的方面，如由權利要求12所限定的，提供了一種包括計算機程序的計算機可讀介質，該計算機程序具有用于使處理器系統實行計算機實現的方法的指令。根據本發明的另外的方面，如由權利要求13所限定的，提供了一種包括機器學習模型的計算機可讀介質。