[發(fā)明專利]在基于策略劃分的數(shù)據(jù)處理集群中進(jìn)行數(shù)據(jù)保護(hù)的方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202011478583.0
• 申請(qǐng)日: 2020-12-15
• 公開（公告）號(hào): CN113806286A
• 公開（公告）日: 2021-12-17
• 發(fā)明（設(shè)計(jì)）人: 程越強(qiáng);朱賀飛
• 申請(qǐng)（專利權(quán)）人: 百度（美國）有限責(zé)任公司;昆侖芯（北京）科技有限公司
• 主分類號(hào): G06F15/177
• 分類號(hào): G06F15/177;G06N20/00
• 代理公司: 北京英賽嘉華知識(shí)產(chǎn)權(quán)代理有限責(zé)任公司 11204
• 代理人: 王達(dá)佐;王艷春

公開了用于在數(shù)據(jù)處理加速器(DPA)的集群中使用將DPA劃分成集群中的一組或多組DPA的策略進(jìn)行數(shù)據(jù)保護(hù)的系統(tǒng)和方法。主機(jī)設(shè)備指示DPA根據(jù)用于集群中每個(gè)DPA的策略將它們自己組織成不重疊的組。該策略為每個(gè)DPA指示該DPA要與之建立通信鏈路的一個(gè)或更多個(gè)其它DPA以實(shí)現(xiàn)分組。一旦分組，主機(jī)設(shè)備和DPA能夠訪問該DPA的所有資源。在與第一DPA相同的組中的DPA能夠訪問第一DPA的非保護(hù)資源，但不能訪問第一DPA的保護(hù)資源。與第一DPA不同的組中的DPA不能訪問第一DPA的任何資源。主機(jī)設(shè)備中的調(diào)度器能夠?qū)⑻幚砣蝿?wù)分配給集群中的任何組。

技術(shù)領(lǐng)域

本申請(qǐng)大體上涉及配置在集群中的數(shù)據(jù)處理加速器。更具體地，本公開的實(shí)施方式涉及在數(shù)據(jù)處理加速器集群(諸如，可用于執(zhí)行人工智能模型訓(xùn)練和推斷的數(shù)據(jù)處理加速器集群)中進(jìn)行數(shù)據(jù)保護(hù)。

背景技術(shù)

人工智能(AI)模型(也稱為“機(jī)器學(xué)習(xí)模型”)最近已經(jīng)被廣泛地使用，因?yàn)锳I技術(shù)已經(jīng)被部署在諸如圖像分類、醫(yī)學(xué)診斷或自動(dòng)駕駛的各種領(lǐng)域中。與軟件應(yīng)用的可執(zhí)行圖像或二進(jìn)制圖像類似，AI模型在被訓(xùn)練時(shí)可以基于分類為特征的屬性集來執(zhí)行推斷。AI模型的訓(xùn)練可能需要大量的投資來收集、整理和過濾數(shù)據(jù)以生成產(chǎn)生有用預(yù)測的AI模型。此外，使用AI模型所產(chǎn)生的預(yù)測可以包含用戶想要保護(hù)的個(gè)人敏感數(shù)據(jù)。

從AI模型生成預(yù)測可能是計(jì)算密集型過程。為了向一個(gè)或更多個(gè)用戶提供足夠的計(jì)算能力，可以以集群的形式提供數(shù)據(jù)處理加速器(DPA)的集群。數(shù)據(jù)處理加速器與一個(gè)或更多個(gè)通信鏈路互連。存在通信鏈路和/或集群中的一個(gè)或更多個(gè)數(shù)據(jù)處理加速器可能被盜用而使得AI模型或由AI模型產(chǎn)生的推斷可能被泄漏、被盜和/或被更改的風(fēng)險(xiǎn)。

為了處理計(jì)算密集的任務(wù)，可以設(shè)計(jì)數(shù)據(jù)處理加速器的集群來處理最大工作負(fù)荷。為最大工作負(fù)荷選擇的多個(gè)數(shù)據(jù)處理加速器可能產(chǎn)生大量的熱量和能量消耗。

建立具有滿足最大工作負(fù)荷的多個(gè)數(shù)據(jù)處理加速器的集群系統(tǒng)可能需要代價(jià)高昂的努力。成本可能促使灰色市場制造商生產(chǎn)在視覺上看起來與合法的名牌數(shù)據(jù)處理加速器相同的數(shù)據(jù)處理加速器。系統(tǒng)構(gòu)建商或集成商可能無法驗(yàn)證由品牌制造商制造的數(shù)據(jù)處理加速器。因此，系統(tǒng)構(gòu)建商不能確保在集群中使用的數(shù)據(jù)處理加速器與構(gòu)建商打算在集群中使用的品牌數(shù)據(jù)處理加速器一樣安全。

發(fā)明內(nèi)容

根據(jù)本申請(qǐng)的一方面，配置包括多個(gè)數(shù)據(jù)處理加速器DPA的集群的計(jì)算機(jī)實(shí)現(xiàn)的方法，該方法包括：由DPA接收用于該多個(gè)DPA的配置策略，該DPA是該多個(gè)DPA中的一個(gè)；由該DPA根據(jù)該配置策略的用于配置該DPA的至少一部分來配置該DPA與該多個(gè)DPA中的其它DPA之間的一個(gè)或更多個(gè)連接，其中，配置連接包括在該DPA與該其它DPA中的至少一個(gè)之間建立或斷開通信路徑；以及使用第一組DPA中的一個(gè)或更多個(gè)DPA執(zhí)行由處于該第一組DPA中的該DPA接收的處理任務(wù)，其中，該第一組DPA是由該多個(gè)DPA形成的多個(gè)組之一。

根據(jù)本申請(qǐng)的另一方面，數(shù)據(jù)處理加速器DPA包括：資源管理器，用于接收與多個(gè)DPA相關(guān)聯(lián)的配置策略，其中，該DPA是該多個(gè)DPA中的一個(gè)，并且用于根據(jù)該配置策略的用于配置該DPA的至少一部分來配置該DPA與該多個(gè)DPA中的其它DPA之間的一個(gè)或更多個(gè)連接，其中，配置連接包括在該DPA與該其它DPA中的至少一個(gè)之間建立或斷開通信路徑；以及處理邏輯，用于使用第一組DPA中的一個(gè)或更多個(gè)DPA來執(zhí)行由處于該第一組DPA中的該DPA接收的處理任務(wù)，其中，該第一組DPA是由該多個(gè)DPA形成的多個(gè)組之一。