[發明專利]一種模型的調度方法、模型調度器以及模型安全測試平臺

有效

• 申請號: 202110257437.3
• 申請日: 2021-03-10
• 公開（公告）號: CN112631577B
• 公開（公告）日: 2021-05-28
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 北京瑞萊智慧科技有限公司
• 主分類號: G06F8/35
• 分類號: G06F8/35;G06F9/54
• 代理公司: 北京超凡宏宇專利代理事務所(特殊普通合伙) 11463
• 代理人: 劉鳳

本申請提供了一種模型的調度方法、模型調度器以及模型安全測試平臺，解析接收到的測評任務，獲取模型攻擊信息；調用攻擊客戶端對模型攻擊信息進行序列化，將序列化后的序列化攻擊信息發送至對應的模型服務端；調用模型服務端解析序列化攻擊信息，并調用與模型攻擊信息匹配的模型處理攻擊，得出攻擊處理結果，將攻擊處理結果反序列化為攻擊處理信息反饋至攻擊客戶端，進而對模型進行測評。這樣，通過在通信過程中對信息進行序列化，減低了通信過程中傳輸的信息的體積，進而，可以快速的完成模型調度，以便通過確定出在攻擊下的相應的攻擊處理信息實現對模型進行安全測評，節省了模型調度時間以及信息傳輸時間，可以提升模型調度訪問的效率。

技術領域

本申請涉及數據處理技術領域，尤其是涉及一種模型的調度方法、模型調度器以及模型安全測試平臺。

背景技術

隨著科學技術的發展，一些開源機器學習框架均可以提供相應的模型服務，在對模型進行安全測評的應用過程中，在不同應用場景下，對模型通過查詢攻擊方法和遷移攻擊方法對抗樣本進行評測，需要先通過把模型打包封裝成服務，以便攻擊算法可以訪問，然后需要對模型服務進行百萬次訪問，基于當前提服務的框架對模型進行調度訪問時，無法同時響應多個服務訪問請求，會有隊頭堵塞等弊端存在，嚴重影響了模型調度的效率，如何提升模型調度訪問的效率成為亟待解決的問題。

發明內容

有鑒于此，本申請的目的在于提供一種模型的調度方法、模型調度器以及模型安全測試平臺，基于gRPC框架對模型進行調度，通過在通信過程中對信息進行序列化，減低了通信過程中傳輸的信息的體積，進而，可以快速的完成模型調度，以便通過確定出在攻擊下的相應的攻擊處理信息實現對模型進行安全測評，節省了模型調度時間以及信息傳輸時間，可以提升模型調度訪問的效率。

本申請實施例提供了一種模型的調度方法，應用于模型調度器，所述模型調度器是基于gRPC框架進行的服務調用的調度器，所述調度方法包括：

解析接收到的測評任務，獲取所述測評任務中攜帶的模型攻擊信息；

調用攻擊客戶端對所述模型攻擊信息進行序列化，得到序列化攻擊信息，并將所述序列化攻擊信息發送至對應的模型服務端；

調用所述模型服務端根據相應的解析方式解析所述序列化攻擊信息，并調用與所述模型攻擊信息匹配的模型處理攻擊，得出攻擊處理結果，將所述攻擊處理結果反序列化為攻擊處理信息反饋至攻擊客戶端，以使所述攻擊客戶端根據所述攻擊處理信息對模型服務端中的模型進行測評。

進一步的，在所述解析接收到的測評任務，獲取所述測評任務中攜帶的模型攻擊信息之前，所述調度方法還包括：

配置gRPC框架的運行環境；

根據模型評價需求，確定與模型測評項對應的多個協議數據交換格式文件；

基于預設的模型推理算法以及所述協議數據交換格式，匹配出所述模型服務端；

基于預設的模型攻擊算法以及所述協議數據交換格式，匹配出所述攻擊客戶端；

基于所述運行環境以及多個所述協議數據交換格式文件，構建模型服務端與所述攻擊客戶端之間的通信環境。

進一步的，在所述調用所述模型服務端根據相應的解析方式解析所述序列化攻擊信息之前，所述調度方法還包括：

基于所述模型攻擊信息，確定所述攻擊客戶端的攻擊請求類型，其中，所述攻擊請求類型包括單批次攻擊訪問以及多批次攻擊訪問；

基于所述攻擊請求類型確定模型服務端的數據交互方式；

基于相應的數據交互方式確定解析所述攻擊客戶端發送的序列化攻擊信息的解析方式。

進一步的，通過以下步驟確定出與所述模型攻擊信息匹配的模型：