[發明專利]用于數據處理加速器的水印單元

在審

• 申請號: 202010519775.5
• 申請日: 2020-06-09
• 公開（公告）號: CN112650986A
• 公開（公告）日: 2021-04-13
• 發明（設計）人: 程越強;劉勇
• 申請（專利權）人: 百度（美國）有限責任公司
• 主分類號: G06F21/16
• 分類號: G06F21/16;G06N20/00;G06F15/17;G06F15/80
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 馬曉亞;王艷春

在一個實施方式中，一種由數據處理(DP)加速器執行的計算機實現的方法，該方法包括：在DP加速器處，從主機處理器接收表示一組訓練數據的第一數據；以及在DP加速器內基于該組訓練數據執行對人工智能(AI)模型的訓練。該方法還包括由DP加速器在經訓練的AI模型內植入水印，并將表示其中植入了水印的經訓練的AI模型的第二數據發送到主機處理器。在實施方式中，該方法還包括接收預訓練的機器學習模型；以及在DP加速器內基于該組訓練數據執行對預訓練的AI模型的訓練。

技術領域

本公開的實施方式總體上涉及人工智能模型訓練和推理。更具體地，本公開的實施方式涉及由數據處理加速器執行的人工智能模型訓練和推理以及相關聯的安全性。

背景技術

隨著人工智能(AI)技術已經被部署在諸如圖像分類或自動駕駛的各種領域中，AI模型(也稱為“機器學習模型”)最近已經被廣泛地使用。與軟件應用的可執行圖像或二進制圖像類似，AI模型在被訓練時可以基于一組屬性執行推理以將這些屬性分類為多個特征。因此，AI模型可以是“便攜式的”并且可以在沒有授權的情況下使用。當前，缺乏對AI模型的有效的數字權利保護。此外，使用委托給諸如數據處理(DP)加速器或遠程系統的輔助處理系統的AI模型的處理任務，缺乏證據證明由DP加速器系統產生的結果受“信任根”系統保護。

發明內容

根據本公開的一個方面，公開了一種由數據處理(DP)加速器執行的計算機實現的方法，所述方法可包括：在所述DP加速器處，從主機處理器接收表示一組訓練數據的第一數據；在所述DP加速器內基于所述一組訓練數據執行對人工智能(AI)模型的訓練；由所述DP加速器接收將水印植入所述AI模型的請求；由所述DP加速器將所述水印植入經訓練的AI模型中；以及將表示其中植入了所述水印的所述經訓練的AI模型的第二數據傳輸至主機處理器。

根據本公開的另一方面，公開了一種數據處理(DP)加速器，其可包括：人工智能(AI)單元，從主機處理器接收表示一組訓練數據的第一數據，并基于所述一組訓練數據執行對AI模型的訓練；以及水印單元，用于從所述主機處理器接收將水印植入經訓練的AI模型中的請求，以將所述水印植入所述經訓練的AI模型中，以及將表示其中植入了所述水印的所述經訓練的AI模型的第二數據發送到所述主機處理器。

根據本公開的又一方面，公開了一種其中存儲有指令的非暫時性的機器可讀介質，所述指令在由數據處理(DP)加速器執行時使所述DP加速器執行操作。所述操作可包括：在所述DP加速器處，從主機處理器接收表示待訓練的人工智能(AI)模型和一組訓練數據的第一數據；在所述DP加速器內基于所述一組訓練數據執行對所述AI模型的訓練；在所述DP加速器處，從所述主機處理器接收將水印植入經訓練的AI模型中的請求；由所述DP加速器將所述水印植入所述經訓練的AI模型中；以及將表示其中植入了所述水印的所述經訓練的AI模型的第二數據傳輸至所述主機處理器。

附圖說明

本公開的實施方式在附圖的各圖中以舉例而非限制的方式示出，附圖中的相同的附圖標記指代相似的元件。

圖1是示出根據一個實施方式的安全處理系統的框圖。

圖2A和圖2B是示出根據一個實施方式的在一個或多個主機和一個或多個數據處理加速器之間的安全計算環境的框圖。

圖3是示出根據一個實施方式的一個或多個主機與一個或多個數據處理加速器之間的安全計算環境的框圖。

圖4至圖5是示出根據一個實施方式的在人工智能模型中植入水印的過程的流程圖。

圖6至圖7是示出根據一個實施方式的在訓練過的AI模型中植入水印的過程的流程圖。

圖8至圖10是示出根據一個實施方式的使用啟用水印內核訓練AI模型和在AI模型中植入水印的過程的流程圖。

圖11至圖13是示出根據一個實施方式的將AI模型的水印植入到AI模型的推理輸出的過程的流程圖。