[發明專利]AI軟件系統安全狀態的確定方法及裝置

有效

• 申請號: 201710481711.9
• 申請日: 2017-06-22
• 公開（公告）號: CN109117625B
• 公開（公告）日: 2020-11-06
• 發明（設計）人: 張建永;孫少杰
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06F21/44
• 分類號: G06F21/44;G06F21/50;H04L9/32
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 羅振安

1.一種人工智能AI軟件系統安全狀態的確定方法，其特征在于，所述方法包括：

所述AI軟件系統中的監控代理模塊確定所述AI軟件系統中的目標對象的第一摘要值，所述第一摘要值用于指示所述目標對象的安全認證信息，其中，部署所述AI軟件系統的操作系統的運行環境包括富運行環境REE和可信運行環境TEE，所述目標對象和所述監控代理模塊置于所述REE中，所述目標對象為所述AI軟件系統中部署在所述操作系統上的多個模塊中的任一待進行安全認證的模塊；

所述監控代理模塊將所述第一摘要值上報給所述AI軟件系統中的實時監控服務模塊，所述實時監控服務模塊置于所述TEE中；

所述實時監控服務模塊接收所述第一摘要值；

所述實時監控服務模塊根據所述第一摘要值，對所述目標對象進行安全認證以得到認證結果，所述認證結果用于指示所述目標對象的安全狀態。

2.如權利要求1所述的方法，其特征在于，所述實時監控服務模塊根據所述第一摘要值，對所述目標對象進行安全認證以得到認證結果，包括：

所述實時監控服務模塊從所述AI軟件系統中的安全密鑰存儲模塊中獲取為所述目標對象預置的第二摘要值，所述安全密鑰存儲模塊置于所述TEE中；

判斷所述第一摘要值和所述第二摘要值是否一致以得到認證結果；

如果所述第一摘要值和所述第二摘要值一致，則所述認證結果為所述安全認證通過狀態；

如果所述第一摘要值和所述第二摘要值不一致，則所述認證結果為所述安全認證未通過狀態。

3.如權利要求2所述的方法，其特征在于，所述實時監控服務模塊從所述AI軟件系統中的安全密鑰存儲模塊中獲取為所述目標對象預置的第二摘要值之前，還包括：

所述實時監控服務模塊從所述安全密鑰存儲模塊中獲取為所述目標對象預置的數字證書；

所述實時監控服務模塊根據所述數字證書中的校驗信息校驗所述數字證書是否合法；

當所述數字證書合法時，所述實時監控服務模塊觸發執行從所述安全密鑰存儲模塊中獲取為所述目標對象預置的第二摘要值的操作。

4.如權利要求3所述的方法，其特征在于，所述方法還包括：

所述安全密鑰存儲模塊中存儲有多個數字證書，所述監控代理模塊在將所述第一摘要值上報給所述實時監控服務模塊時，還將所述數字證書的標識上報給所述實時監控服務模塊；

相應地，所述實時監控服務模塊從所述安全密鑰存儲模塊中獲取為所述目標對象預置的數字證書，包括：

所述實時監控服務模塊從所述安全密鑰存儲模塊存儲的多個數字證書中獲取所述標識對應的數字證書。

5.如權利要求1至4任一所述的方法，其特征在于，所述實時監控服務模塊根據所述第一摘要值，對所述目標對象進行安全認證以得到認證結果之后，還包括：

當所述認證結果為所述安全認證未通過狀態時，所述實時監控服務模塊向所述AI軟件系統中的可信用戶界面TUI發送報警請求，所述TUI置于所述TEE中；

所述TUI接收所述報警請求；

所述TUI顯示報警信息，所述報警信息用于向用戶指示所述目標對象的安全認證未通過。

6.如權利要求1至4任一所述的方法，其特征在于，所述實時監控服務模塊根據所述第一摘要值，對所述目標對象進行安全認證以得到認證結果之后，還包括：

所述實時監控服務模塊將所述認證結果發送給所述監控代理模塊。

7.如權利要求6所述的方法，其特征在于，所述實時監控服務模塊將所述認證結果發送給所述監控代理模塊之后，還包括：

當所述認證結果為所述安全認證未通過狀態時，所述監控代理模塊向預設控制模塊發送終止請求，所述終止請求用于指示所述預設控制模塊終止所述目標對象的進程，所述預設控制模塊為部署于所述操作系統中且不屬于所述AI軟件系統的模塊。