[發明專利]基于動態劃分的數據處理集群的數據保護方法

在審

• 申請號: 202011482946.8
• 申請日: 2020-12-16
• 公開（公告）號: CN113806287A
• 公開（公告）日: 2021-12-17
• 發明（設計）人: 程越強;朱賀飛
• 申請（專利權）人: 百度（美國）有限責任公司;昆侖芯（北京）科技有限公司
• 主分類號: G06F15/177
• 分類號: G06F15/177;G06N20/00
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 王達佐;王艷春

本公開公開了基于動態劃分的數據處理集群的數據保護方法，涉及人工智能，尤其涉及信息流領域。具體實現方案為：公開了數據處理加速器(DPA)的集群中的數據保護的系統和方法，其使用使DPA加入或離開集群中的一個或多個DPA群組的動態劃分。主機設備指示集群中的每個DPA與集群中的一個或多個DPA建立鏈接或斷開鏈接，以在集群中建立DPA群組。沒有鏈接到任何DPA的DPA被設置為低功率模式。一旦分組，主機設備和DPA可以訪問該DPA的所有資源。在與第一DPA相同的群組中的DPA可以訪問第一DPA的非保護資源，但不可以訪問保護資源。在與第一DPA不同的群組中的DPA不可以訪問第一DPA的任何資源。主機設備中的調度器將針對一個應用程序或用戶的處理任務分配給群組。

技術領域

本公開大體上涉及在集群中配置的數據處理加速器。更具體地，本公開涉及諸如可用于執行人工智能模型訓練和推斷的數據處理加速器集群中的數據保護。

背景技術

隨著AI技術部署在諸如圖像分類、醫學診斷或自主駕駛的各種領域中，人工智能(AI)模型(也稱為“機器學習模型”)最近已被廣泛地使用。與軟件應用的可執行映像或二進制映像類似，AI模型在被訓練時可以基于一組屬性執行推斷以分類為特征。AI模型的訓練可能需要在收集、整理和過濾數據上進行大量投資，以生成產生有用預測的AI模型。此外，使用AI模型所產生的預測可以包含用戶想要保護的個人敏感數據。

從AI模型生成預測可以是計算密集型處理。為了為一個或多個用戶提供足夠的計算能力，可以在集群中提供數據處理加速器(DPA)的集群。數據處理加速器與一個或多個通信鏈路互連。存在一種風險，即，包括通信鏈路和/或集群中的一個或多個數據處理加速器可能使得AI模型或由AI模型產生的推斷可能被泄漏、被盜和/或被篡改。

為了處理計算密集型任務，可以設計數據處理加速器的集群來處理最大工作負荷。針對最大工作負荷選擇的數據處理加速器的數量可以產生大量的熱量和能量消耗。

建立具有滿足最大工作負荷的多個數據處理加速器的集群系統可能代價高昂。成本可以促使灰色市場制造商生產在視覺上看起來與合法的名牌數據處理加速器相同的數據處理加速器。系統構建者或集成者可能無法驗證數據處理加速器是否是由品牌制造商制造的。因此，系統構建者無法確保在集群中使用的數據處理加速器與構建者打算在集群中使用的名牌數據處理加速器一樣安全。

發明內容

本申請的一個方面提供了一種配置通信地聯接到主機設備的多個數據處理加速器的計算機實現的方法，該方法可包括：由數據處理加速器集群中的數據處理加速器從主機設備的驅動器接收專用于數據處理加速器的配置指令，以將數據處理加速器配置為加入集群中的數據處理加速器子群組中或離開集群中的數據處理加速器子群組。根據配置指令配置數據處理加速器可包括：響應于指示數據處理加速器加入數據處理加速器子群組的指令，由數據處理加速器生成到子群組中的至少一個數據處理加速器的通信鏈路，以及響應于指示數據處理加速器離開數據處理加速器子群組的指令，斷開數據處理加速器和子群組中的所有數據處理加速器之間的通信鏈路。

本申請的另一方面提供了一種數據處理加速器，其包括鏈路配置模塊，鏈路配置模塊可用于：從主機設備的驅動器接收專用于數據處理加速器的配置指令，以將數據處理加速器配置為加入集群中的數據處理加速器子群組中或離開集群中的數據處理加速器子群組，其中，數據處理加速器是集群中的數據處理加速器中的一個。根據配置指令配置數據處理加速器可包括：響應于指示數據處理加速器加入數據處理加速器子群組的指令，由數據處理加速器生成到子群組中的至少一個數據處理加速器的通信鏈路，以及響應于指示數據處理加速器離開數據處理加速器子群組的指令，斷開數據處理加速器和子群組中的所有數據處理加速器之間的通信鏈路。