[發明專利]用于改進機器學習系統的穩健性的方法和設備

在審

• 申請號: 201880069399.5
• 申請日: 2018-10-15
• 公開（公告）號: CN111226229A
• 公開（公告）日: 2020-06-02
• 發明（設計）人: J.H.梅岑
• 申請（專利權）人: 羅伯特·博世有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 胡莉莉;劉春元

1.一種用于運行探測器（70）的方法，所述探測器（70）配置為檢查輸送給機器學習系統（60）的數據信號（x）是否已被篡改，

其中所述機器學習系統（60）首先借助經篡改的數據信號（x^adv）被對抗訓練，其中已通過篡改訓練數據信號（x^train）來測定所述經篡改的數據信號（x^adv），并且其中所述機器學習系統（60）被訓練成：當給所述機器學習系統（60）輸送所述訓練數據信號（x^train）和所述經篡改的數據信號（x^adv）時，分別提供相同的輸出信號（y），

其中借助另一經篡改的數據信號（x^adv;2）來訓練所述探測器（70），所述另一經篡改的數據信號（x^adv;2）根據經過訓練的機器學習系統（60）來產生。

2.根據權利要求1所述的方法，其中，根據所述機器學習系統（60）的與輸入信號（x）有關的成本函數的梯度來選擇所述經篡改的數據信號（x^adv），所述梯度指向所期望的輸出信號（y^target）的方向。

3.根據權利要求2所述的方法，其中，產生所述經篡改的數據信號（x^adv）來使得：所述經篡改的數據信號（x^adv）與所述數據信號（x）的差包含指向所述梯度的相反方向的項。

4.根據上述權利要求中任一項所述的方法，其中，根據經過對抗訓練的機器學習系統（60）的與所述輸入信號（x）有關的成本函數的第二梯度來選擇所述另一經篡改的數據信號（x^adv;2），所述第二梯度指向所期望的輸出信號（y^target）的方向。

5.根據權利要求4所述的方法，其中，產生所述另一經篡改的數據信號（x^adv;2）來使得：所述另一經篡改的數據信號（x^adv;2）與所述數據信號（x）的差包含指向所述第二梯度的相反方向的項。

6.根據上述權利要求中任一項所述的方法，其中，所述探測器（70）檢查，輸送給機器學習系統（60）的數據信號（x）是否已被篡改。

7.根據權利要求6所述的方法，其中，根據所測定的輸出信號（y）和所述探測器（70）的檢查結果（g）來進行對代理（10）的操控（A）。

8.一種計算機程序，所述計算機程序配置為實施根據權利要求1至7中任一項所述的方法。

9.一種機器可讀的存儲介質，在所述機器可讀的存儲介質上存儲有根據權利要求8所述的計算機程序。

10.一種計算機，所述計算機配置為實施根據權利要求1至7中任一項所述的方法。