[發明專利]對采用人工智能的系統進行防護

在審

• 申請號: 201980042541.1
• 申請日: 2019-04-23
• 公開（公告）號: CN112334917A
• 公開（公告）日: 2021-02-05
• 發明（設計）人: O·波哥列克;A·納什圖特;O·本-沙洛姆;D·克里莫夫;R·凱勒曼;G·巴恩哈特-馬根;V·蘇霍姆利諾夫
• 申請（專利權）人: 英特爾公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04;G06N20/00
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 浩路;周學斌

1.一種裝置，包括：

電路；以及

耦合到所述電路的存儲器，存儲器存儲指令，所述指令在由所述電路執行時使所述電路：

從輸入設備接收輸入數據；

部分地基于利用輸入數據執行推理模型來生成輸出數據，輸出數據包括可見類或隱藏類之一的指示；

確定輸出數據是否包括隱藏類的指示；以及

基于輸出數據不包括隱藏類的指示的確定而將所生成的輸出提供給輸出消費者。

2.根據權利要求1所述的裝置，存儲器進一步存儲指令，所述指令在由所述電路執行時使所述電路：基于輸出數據包括隱藏類的指示的確定而向監測系統發送警報。

3.根據權利要求2所述的裝置，存儲器進一步存儲指令，所述指令在由所述電路執行時使所述電路：

響應于輸出數據包括隱藏類的指示的確定而生成混淆的輸出，混淆的輸出包括可見類的指示；以及

響應于輸出數據包括隱藏類的指示的確定而將混淆的輸出提供給輸出消費者。

4.根據權利要求3所述的裝置，存儲器進一步存儲指令，所述指令在由所述電路執行時使所述電路：

響應于輸出數據包括隱藏類的指示的確定而收集取證數據，所述取證數據包括輸入數據和輸入設備中的至少一個的指示；以及

響應于輸出數據包括隱藏類的指示的確定而向監測系統提供所述取證數據。

5.根據權利要求3所述的裝置，可見類包括多個可見類，輸出數據包括隱藏類或者所述多個可見類之一的指示。

6.根據權利要求1至5中任一項所述的裝置，隱藏類包括多個隱藏類，輸出數據包括所述多個隱藏類之一或所述多個可見類之一的指示。

7.根據權利要求6所述的裝置，其中所述多個隱藏類中的至少一個對應于列入黑名單的輸入。

8.根據權利要求6所述的裝置，存儲器進一步存儲指令，所述指令在由所述電路執行時使所述電路：

響應于輸出數據包括隱藏類的指示的確定而標識與輸出數據所指示的所述多個隱藏類之一相關聯的所述多個可見類之一；以及

生成混淆的輸出以包括所述多個可見類中的所標識的可見類的指示。

9.根據權利要求1至5中任一項所述的裝置，包括可信執行環境（TEE），所述TEE包括所述電路和存儲器。

10.一種非暫時性計算機可讀存儲介質，包括指令，所述指令在由電路執行時使所述電路：

從輸入設備接收輸入數據；

部分地基于利用輸入數據執行推理模型來生成輸出數據，輸出數據包括可見類或隱藏類之一的指示；

確定輸出數據是否包括隱藏類的指示；以及

基于輸出數據不包括隱藏類的指示的確定而將所生成的輸出提供給輸出消費者。

11.根據權利要求10所述的非暫時性計算機可讀存儲介質，存儲器進一步存儲指令，所述指令在由所述電路執行時使所述電路：基于輸出數據包括隱藏類的指示的確定而向監測系統發送警報。

12.根據權利要求11所述的非暫時性計算機可讀存儲介質，進一步存儲指令，所述指令在由所述電路執行時使所述電路：

響應于輸出數據包括隱藏類的指示的確定而生成混淆的輸出，混淆的輸出包括可見類的指示；以及

響應于輸出數據包括隱藏類的指示的確定而將混淆的輸出提供給輸出消費者。

13.根據權利要求12所述的非暫時性計算機可讀存儲介質，進一步存儲指令，所述指令在由所述電路執行時使所述電路：

響應于輸出數據包括隱藏類的指示的確定而收集取證數據，所述取證數據包括輸入數據和輸入設備中的至少一個的指示；以及

響應于輸出數據包括隱藏類的指示的確定而向監測系統提供所述取證數據。