[發明專利]AI框架的安全評測方法、裝置、設備及存儲介質

有效

• 申請號: 202011531762.6
• 申請日: 2020-12-22
• 公開（公告）號: CN112527674B
• 公開（公告）日: 2022-11-04
• 發明（設計）人: 鄒權臣;潘越;錢佳宇;劉昭;彭偉珰;張德岳
• 申請（專利權）人: 蘇州三六零智能安全科技有限公司
• 主分類號: G06F11/36
• 分類號: G06F11/36;G06F21/57
• 代理公司: 深圳市世紀恒程知識產權代理事務所 44287
• 代理人: 薛福玲

1.一種AI框架的安全評測方法，其特征在于，所述種AI框架的安全評測方法包括：

獲取待評測AI框架的框架源代碼；

根據所述框架源代碼對所述待評測AI框架進行模塊構成分析，獲得框架組成分析結果；

對所述待評測AI框架進行攻擊面分析，獲得攻擊面分析結果；

基于所述框架組成分析結果和所述攻擊面分析結果對所述待評測AI框架進行安全風險評測，獲得安全風險評測結果；

其中，所述基于所述框架組成分析結果和所述攻擊面分析結果對所述待評測AI框架進行安全風險評測，獲得安全風險評測結果的步驟，包括：

根據所述框架組成分析結果和所述攻擊面分析結果確定所述待評測AI框架中包含的潛在風險模塊；

通過歷史漏洞數據庫對所述潛在風險模塊進行安全風險評測，獲得第一風險測評結果；

對所述潛在風險模塊進行漏洞挖掘，并對所挖掘的漏洞進行風險評測，獲得第二風險評測結果；

根據所述第一風險測評結果和所述第二風險評測結果獲得安全風險評測結果。

2.如權利要求1所述的AI框架的安全評測方法，其特征在于，所述根據所述框架組成分析結果和所述攻擊面分析結果確定所述待評測AI框架中包含的潛在風險模塊的步驟，包括：

根據所述框架組成分析結果確定所述待評測AI框架中包含的功能處理模塊和依賴組件；

根據所述攻擊面分析結果從所述功能處理模塊中確定目標風險模塊；

根據所述目標風險模塊和所述依賴組件確定所述待評測AI框架中包含的潛在風險模塊。

3.如權利要求1所述的AI框架的安全評測方法，其特征在于，所述通過歷史漏洞數據庫對所述潛在風險模塊進行安全風險評測，獲得第一風險測評結果的步驟，包括：

獲取所述潛在風險模塊的模塊標識信息；

采用精確匹配方式在歷史漏洞數據庫中查找是否存在與所述模塊標識信息對應的漏洞信息；

若存在，則根據查找到的漏洞信息對所述潛在風險模塊進行安全風險評測，獲得第一風險測評結果。

4.如權利要求3所述的AI框架的安全評測方法，其特征在于，所述采用精確匹配方式在歷史漏洞數據庫中查找是否存在與所述模塊標識信息對應的漏洞信息的步驟之后，所述方法還包括：

若不存在，則根據所述模塊標識信息在外部數據源中查找所述潛在風險模塊對應的漏洞信息；

根據查找到的漏洞信息對所述潛在風險模塊進行安全風險評測，獲得第一風險測評結果。

5.如權利要求1所述的AI框架的安全評測方法，其特征在于，所述潛在風險模塊包括目標風險模塊和依賴組件；

所述對所述潛在風險模塊進行漏洞挖掘，并對所挖掘的漏洞進行風險評測，獲得第二風險評測結果的步驟，包括：

確定所述目標風險模塊的操作對象和所能實現的模塊功能；

根據所述操作對象和所述模塊功能從所述目標風險模塊中篩選出待檢測模塊；

對所述待檢測模塊和所述依賴組件進行漏洞挖掘，并對所挖掘的漏洞進行風險評測，獲得第二風險評測結果。

6.如權利要求5所述的AI框架的安全評測方法，其特征在于，所述對所述待檢測模塊和所述依賴組件進行漏洞挖掘，并對所挖掘的漏洞進行風險評測，獲得第二風險評測結果的步驟，包括：

獲取所述依賴組件所能實現的組件功能；

將所述組件功能屬于預設功能維度的依賴組件作為待檢測組件；

獲取預先構建的漏洞挖掘數據集，根據所述漏洞挖掘數據集對所述待檢測組件和所述待檢測模塊進行漏洞挖掘；

對所挖掘的漏洞進行風險評測，獲得第二風險評測結果。

7.如權利要求6所述的AI框架的安全評測方法，其特征在于，所述獲取預先構建的漏洞挖掘數據集，根據所述漏洞挖掘數據集對所述待檢測組件和所述待檢測模塊進行漏洞挖掘的步驟，包括：

獲取預先構建的漏洞挖掘數據集；

根據所述漏洞挖掘數據集中存放的音視頻數據、圖像數據和/或模型數據對所述待檢測組件和所述待檢測模塊進行漏洞挖掘。