[發明專利]一種模型的調度方法、模型調度器以及模型安全測試平臺

有效

• 申請號: 202110257437.3
• 申請日: 2021-03-10
• 公開（公告）號: CN112631577B
• 公開（公告）日: 2021-05-28
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 北京瑞萊智慧科技有限公司
• 主分類號: G06F8/35
• 分類號: G06F8/35;G06F9/54
• 代理公司: 北京超凡宏宇專利代理事務所(特殊普通合伙) 11463
• 代理人: 劉鳳

1.一種模型的調度方法，其特征在于，應用于模型調度器，所述模型調度器是基于gRPC框架進行的服務調用的調度器，所述調度方法包括：

解析接收到的測評任務，獲取所述測評任務中攜帶的模型攻擊信息；

調用攻擊客戶端對所述模型攻擊信息進行序列化，得到序列化攻擊信息，并將所述序列化攻擊信息發送至對應的模型服務端；

調用所述模型服務端根據相應的解析方式解析所述序列化攻擊信息，并調用與所述模型攻擊信息匹配的模型處理攻擊，得出攻擊處理結果，將所述攻擊處理結果反序列化為攻擊處理信息反饋至攻擊客戶端，以使所述攻擊客戶端根據所述攻擊處理信息對模型服務端中的模型進行測評；其中，與所述模型攻擊信息匹配的模型是通過所述攻擊信息中攜帶的攻擊的應用場景以及攻擊類型確定的；

所述根據所述攻擊處理信息對模型服務端中的模型進行測評包括：調用相應的模型對攻擊進行處理，得到模型的攻擊處理結果，并基于所述攻擊處理信息，對模型進行安全測評。

2.根據權利要求1所述的調度方法，其特征在于，在所述解析接收到的測評任務，獲取所述測評任務中攜帶的模型攻擊信息之前，所述調度方法還包括：

配置gRPC框架的運行環境；

根據模型評價需求，確定與模型測評項對應的多個協議數據交換格式文件；

基于預設的模型推理算法以及所述協議數據交換格式，匹配出所述模型服務端；

基于預設的模型攻擊算法以及所述協議數據交換格式，匹配出所述攻擊客戶端；

基于所述運行環境以及多個所述協議數據交換格式文件，構建模型服務端與所述攻擊客戶端之間的通信環境。

3.根據權利要求1所述的調度方法，其特征在于，在所述調用所述模型服務端根據相應的解析方式解析所述序列化攻擊信息之前，所述調度方法還包括：

基于所述模型攻擊信息，確定所述攻擊客戶端的攻擊請求類型，其中，所述攻擊請求類型包括單批次攻擊訪問以及多批次攻擊訪問；

基于所述攻擊請求類型確定模型服務端的數據交互方式；

基于相應的數據交互方式確定解析所述攻擊客戶端發送的序列化攻擊信息的解析方式。

4.根據權利要求2所述的調度方法，其特征在于，通過以下步驟確定出與所述模型攻擊信息匹配的模型：

基于所述攻擊信息確定攻擊請求的應用場景以及攻擊類型；

基于所述應用場景以及攻擊類型，確定與所述模型攻擊信息匹配的模型。

5.一種模型調度器，其特征在于，所述模型調度器包括：

信息獲取模塊，用于解析接收到的測評任務，獲取所述測評任務中攜帶的模型攻擊信息；

攻擊客戶端調用模塊，用于調用攻擊客戶端對所述模型攻擊信息進行序列化，得到序列化攻擊信息，并將所述序列化攻擊信息發送至對應的模型服務端；

模型服務端調用模塊，用于調用所述模型服務端根據相應的解析方式解析所述序列化攻擊信息，并調用與所述模型攻擊信息匹配的模型處理攻擊，得出攻擊處理結果，將所述攻擊處理結果反序列化為攻擊處理信息反饋至攻擊客戶端，以使所述攻擊客戶端根據所述攻擊處理信息對模型服務端中的模型進行測評；其中，與所述模型攻擊信息匹配的模型是通過所述攻擊信息中攜帶的攻擊的應用場景以及攻擊類型確定的；

所述模型服務端調用模塊在用于根據所述攻擊處理信息對模型服務端中的模型進行測評時，所述模型服務端調用模塊用于：

調用相應的模型對攻擊進行處理，得到模型的攻擊處理結果，并基于所述攻擊處理信息，對模型進行安全測評。