[發(fā)明專利]AI軟件系統(tǒng)安全狀態(tài)的確定方法及裝置

有效

• 申請?zhí)枺?/td>: 201710481711.9
• 申請日: 2017-06-22
• 公開（公告）號: CN109117625B
• 公開（公告）日: 2020-11-06
• 發(fā)明（設(shè)計）人: 張建永;孫少杰
• 申請（專利權(quán)）人: 華為技術(shù)有限公司
• 主分類號: G06F21/44
• 分類號: G06F21/44;G06F21/50;H04L9/32
• 代理公司: 北京三高永信知識產(chǎn)權(quán)代理有限責(zé)任公司 11138
• 代理人: 羅振安

本申請公開了一種AI軟件系統(tǒng)安全狀態(tài)的確定方法及裝置，屬于人工智能技術(shù)領(lǐng)域。所述方法包括：AI軟件系統(tǒng)中的監(jiān)控代理模塊確定目標(biāo)對象的第一摘要值，并將第一摘要值上報給實時監(jiān)控服務(wù)模塊，由實時監(jiān)控服務(wù)模塊對該目標(biāo)對象進行安全認證，以實現(xiàn)對該目標(biāo)對象進行安全保護。由于目標(biāo)對象置于REE中執(zhí)行，有利于該軟件系統(tǒng)的軟件框架的部署相對集中，從而利于該AI軟件系統(tǒng)的平臺化。另外，相對于將關(guān)鍵性部件置于TEE中執(zhí)行，置于REE的該關(guān)鍵性部件可以充分利用REE側(cè)的豐富的計算資源，從而實現(xiàn)在保證關(guān)鍵性部件計算能力的同時，對該關(guān)鍵性部件進行安全保護。

技術(shù)領(lǐng)域

本申請涉及人工智能(Article Intelligence，AI)技術(shù)領(lǐng)域，特別涉及一種AI軟件系統(tǒng)安全狀態(tài)的確定方法及裝置。

背景技術(shù)

終端上的操作系統(tǒng)為應(yīng)用軟件在終端上的運行提供平臺，也即應(yīng)用軟件通過部署于操作系統(tǒng)各個層次上的模塊實現(xiàn)該應(yīng)用軟件的功能，其中，將部署于操作系統(tǒng)各個層次上的模塊構(gòu)成的系統(tǒng)稱為該應(yīng)用軟件的軟件系統(tǒng)，如AI軟件系統(tǒng)。需要說明的是，AI軟件在運行過程中通常涉及到用戶個人隱私數(shù)據(jù)的處理，但是目前操作系統(tǒng)的運行環(huán)境主要為開放式的富運行環(huán)境(Rich executing environment，REE)，導(dǎo)致部署在操作系統(tǒng)內(nèi)的AI軟件系統(tǒng)的關(guān)鍵性部件在進行數(shù)據(jù)處理的過程中可能面臨惡意軟件的威脅，因此，實際應(yīng)用中需確定AI軟件系統(tǒng)內(nèi)的關(guān)鍵性部件的安全狀態(tài)，也即確定AI軟件系統(tǒng)的安全狀態(tài)，以便于對AI軟件系統(tǒng)進行安全保護。

針對REE帶來的安全問題，全球平臺組織(Global Platform，GP)提出一種可信運行環(huán)境(Trusted executing environment，TEE)，也即在操作系統(tǒng)上存在兩種并行的運行環(huán)境，開放式的REE和相對封閉式的TEE。由于在TEE中執(zhí)行的程序需要經(jīng)過TEE的簽名和哈希 (Hash)校驗，因此在TEE中執(zhí)行的程序可以得到安全保護。所以相關(guān)技術(shù)中，將AI軟件系統(tǒng)內(nèi)的關(guān)鍵性部件置于TEE中執(zhí)行，其他部件則置于REE中執(zhí)行，以通過在TEE中執(zhí)行的關(guān)鍵性部件的校驗結(jié)果確定該AI軟件系統(tǒng)的安全狀態(tài)，從而實現(xiàn)對AI軟件系統(tǒng)的安全保護。例如，圖1為相關(guān)技術(shù)中的一種基于AI軟件框架的AI軟件系統(tǒng)，該AI軟件系統(tǒng)包括 AI框架應(yīng)用協(xié)議接口(Application Programming Interface，API)、模型及關(guān)鍵數(shù)據(jù)文件、AI 框架主體、硬件抽象層(Hardware Abstraction Layer，HAL)、算法支持庫、以及中央處理單元(Central Processing Unit，CPU)、圖像處理單元(Graphic Processing Unit，GPU)、數(shù)字信號處理器(digital signal processing，DSP)等計算加速引擎。其中，模型及關(guān)鍵數(shù)據(jù)文件和 AI框架主體為該AI軟件系統(tǒng)的關(guān)鍵性部件，因此可以將模型及關(guān)鍵數(shù)據(jù)文件和AI框架主體置于TEE中執(zhí)行，其他部件則置于REE中執(zhí)行，以實現(xiàn)對基于AI軟件框架的AI軟件系統(tǒng)的安全保護。然而，將AI軟件系統(tǒng)中的關(guān)鍵性部件置于TEE中執(zhí)行，而其他部件仍置于REE中執(zhí)行，導(dǎo)致構(gòu)成該AI軟件系統(tǒng)的軟件框架的部署相對分散。

發(fā)明內(nèi)容

為了解決相關(guān)技術(shù)中在對AI軟件系統(tǒng)進行安全保護時AI軟件系統(tǒng)的軟件框架的部署相對分散的問題，本申請?zhí)峁┝艘环NAI軟件系統(tǒng)安全狀態(tài)的確定方法及裝置。所述技術(shù)方案如下：

第一方面，提供了一種AI軟件系統(tǒng)安全狀態(tài)的確定方法，所述方法包括：

所述AI軟件系統(tǒng)中的監(jiān)控代理模塊確定所述AI軟件系統(tǒng)中的目標(biāo)對象的第一摘要值，所述第一摘要值用于指示所述目標(biāo)對象的安全認證信息，其中，部署所述AI軟件系統(tǒng)的操作系統(tǒng)的運行環(huán)境包括富運行環(huán)境REE和可信運行環(huán)境TEE，所述目標(biāo)對象和所述監(jiān)控代理模塊置于所述REE中，所述目標(biāo)對象為所述AI軟件系統(tǒng)中部署在所述操作系統(tǒng)上的多個模塊中的任一待進行安全認證的模塊；

所述監(jiān)控代理模塊將所述第一摘要值上報給所述AI軟件系統(tǒng)中的實時監(jiān)控服務(wù)模塊，所述實時監(jiān)控服務(wù)模塊置于所述TEE中；