[發明專利]使用降低精度的深度神經網絡的對抗性輸入識別

有效

• 申請號: 202010020033.8
• 申請日: 2020-01-09
• 公開（公告）號: CN111435461B
• 公開（公告）日: 2023-08-11
• 發明（設計）人: 陳家佑;陳品諭;莊逸仁;陳均富;崔正旭;K·高帕拉克里斯南
• 申請（專利權）人: 國際商業機器公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/0475;G06N3/094
• 代理公司: 中國貿促會專利商標事務所有限公司 11038
• 代理人: 劉玉潔

1.一種用于對抗性輸入識別的方法，包括：

由處理器接收輸入數據，其中所述輸入數據包括圖像數據；

將所述輸入數據提供給包括第一神經網絡模型的第一神經網絡，所述第一神經網絡模型具有第一數值精度水平，其中第一數值精度水平是用戶已知的；

使用第一神經網絡從所述輸入數據生成與所述圖像數據對應的第一特征向量；

將所述輸入數據提供給包括第二神經網絡模型的第二神經網絡，第二神經網絡模型具有與第一數值精度水平不同的第二數值精度水平，其中第二數值精度水平是加密的并且對于用戶是隱藏的；

與生成第一特征向量并行地使用第二神經網絡從所述輸入數據生成與所述圖像數據對應的第二特征向量；以及

計算第一特征向量和第二特征向量之間的差異度量，所述差異度量指示所述圖像數據是否包括對抗性數據。

2.如權利要求1所述的方法，還包括：

將所述差異度量與預定閾值進行比較。

3.如權利要求2所述的方法，還包括：

確定所述差異度量超過所述預定閾值；以及

響應于確定所述差異度量超過所述預定閾值，確定所述圖像數據包括對抗性數據。

4.如權利要求3所述的方法，還包括：

丟棄所述輸入數據。

5.如權利要求2所述的方法，還包括：

確定所述差異度量未超過所述預定閾值；以及

響應于確定所述差異度量未超過所述預定閾值，確定所述圖像數據的分類。

6.如權利要求1所述的方法，其中第一數值精度水平大于第二數值精度水平。

7.如權利要求1所述的方法，其中第一數值精度水平是全數值精度水平。

8.如權利要求1所述的方法，其中第一神經網絡模型是已發布的神經網絡模型。

9.如權利要求1所述的方法，其中第二神經網絡模型是降低精度的神經網絡模型。

10.如權利要求1所述的方法，其中第二神經網絡模型是加密的神經網絡模型。

11.如權利要求1所述的方法，其中第二神經網絡模型的一個或多個層包括不同的數值精度水平。

12.如權利要求1所述的方法，其中第一神經網絡或第二神經網絡中的一個或多個包括深度神經網絡DNN。

13.一個或多個計算機可讀存儲介質，所述一個或多個計算機可讀存儲介質上存儲有程序指令，所存儲的程序指令包括用于由一個或多個處理器執行根據權利要求1至12中任一項所述的方法的步驟的計算機程序代碼。

14.如權利要求13所述的計算機可讀存儲介質，其中所述計算機程序代碼被存儲在數據處理系統中的計算機可讀存儲介質中，并且其中所述計算機程序代碼是通過網絡從遠程數據處理系統傳送的。

15.如權利要求13所述的計算機可讀存儲介質，其中所述計算機程序代碼被存儲在服務器數據處理系統中的計算機可讀存儲介質中，并且其中所述計算機程序代碼通過網絡下載到遠程數據處理系統以供在與遠程數據處理系統相關聯的計算機可讀存儲介質中使用。

16.一種計算機系統，包括一個或多個處理器、一個或多個計算機可讀存儲器和一個或多個計算機可讀存儲設備，以及存儲在所述一個或多個存儲設備中的至少一個存儲設備上以供所述一個或多個處理器中的至少一個處理器經由所述一個或多個存儲器中的至少一個存儲器執行的程序指令，所存儲的程序指令包括：

用于由處理器接收輸入數據的程序指令，其中所述輸入數據包括圖像數據；

用于將所述輸入數據提供給包括第一神經網絡模型的第一神經網絡的程序指令，第一神經網絡模型具有第一數值精度水平，其中第一數值精度水平是用戶已知的；

用于使用第一神經網絡從所述輸入數據生成與所述圖像數據對應的第一特征向量的程序指令；

用于將所述輸入數據提供給包括第二神經網絡模型的第二神經網絡的程序指令，第二神經網絡模型具有與第一數值精度水平不同的第二數值精度水平，其中第二數值精度水平是加密的并且對于用戶是隱藏的；

用于與生成第一特征向量并行地使用第二神經網絡從所述輸入數據生成與所述圖像數據對應的第二特征向量的程序指令；以及

用于計算第一特征向量和第二特征向量之間的差異度量的程序指令，所述差異度量指示所述圖像數據是否包括對抗性數據。