[發(fā)明專利]安全地執(zhí)行參數(shù)數(shù)據(jù)更新

有效

• 申請?zhí)枺?/td>: 202010680535.3
• 申請日: 2020-07-15
• 公開（公告）號: CN112241550B
• 公開（公告）日: 2021-12-03
• 發(fā)明（設(shè)計(jì)）人: 馬丁·克勞斯;安德烈·艾歇特
• 申請（專利權(quán)）人: 西門子醫(yī)療有限公司
• 主分類號: G06F21/62
• 分類號: G06F21/62
• 代理公司: 北京集佳知識(shí)產(chǎn)權(quán)代理有限公司 11227
• 代理人: 唐京橋;侯艷超

本發(fā)明提供了安全地執(zhí)行參數(shù)數(shù)據(jù)更新。本發(fā)明提供了用于參數(shù)更新的系統(tǒng)和方法，該方法包括：由第一實(shí)體(10)從第二實(shí)體(20)獲得函數(shù)(1)和參數(shù)數(shù)據(jù)(2)；選擇(S20)由第一實(shí)體(10)提供的數(shù)據(jù)樣本(3)；提供(S30)多個(gè)相互獨(dú)立的計(jì)算實(shí)例(12)；將選定的數(shù)據(jù)樣本(3)分配(S40)并提供(S50)給計(jì)算實(shí)例(12)；在每個(gè)計(jì)算實(shí)例(12)內(nèi)計(jì)算(S60)函數(shù)(1)的結(jié)果；計(jì)算(S70)關(guān)于結(jié)果的平均值；確定(S100；S02)函數(shù)(1)是否滿足安全標(biāo)準(zhǔn)，如果函數(shù)(1)滿足安全標(biāo)準(zhǔn)，則將所計(jì)算的損失函數(shù)的梯度的平均值和/或所計(jì)算的輸出值的平均值和/或更新的參數(shù)數(shù)據(jù)提供(S120)給第二實(shí)體(20)。

技術(shù)領(lǐng)域

本發(fā)明涉及用于安全地執(zhí)行參數(shù)數(shù)據(jù)更新特別是機(jī)器學(xué)習(xí)參數(shù)更新步驟的計(jì)算機(jī)實(shí)現(xiàn)的方法，并且本發(fā)明涉及用于安全地執(zhí)行參數(shù)數(shù)據(jù)更新特別是機(jī)器學(xué)習(xí)參數(shù)更新步驟的系統(tǒng)。

背景技術(shù)

在許多應(yīng)用中，具有產(chǎn)生人工智能實(shí)體例如經(jīng)訓(xùn)練的人工神經(jīng)網(wǎng)絡(luò)的專門知識(shí)的實(shí)體不同于擁有訓(xùn)練數(shù)據(jù)的實(shí)體，訓(xùn)練數(shù)據(jù)是能夠用于訓(xùn)練人工智能實(shí)體的數(shù)據(jù)樣本。特別是在醫(yī)療技術(shù)領(lǐng)域中以及在許多其他應(yīng)用中，數(shù)據(jù)安全和數(shù)據(jù)隱私是重要的問題。

例如，為了訓(xùn)練用于執(zhí)行醫(yī)療任務(wù)的人工智能實(shí)體，通常需要諸如醫(yī)學(xué)圖像、DNA數(shù)據(jù)、病史等的高度敏感的患者數(shù)據(jù)。另一方面，這些正是許多條例(諸如歐洲通用數(shù)據(jù)保護(hù)條例，GDPR)、法律和倫理考量力求保持私有和安全的數(shù)據(jù)。

這些數(shù)據(jù)的來源——諸如對保持?jǐn)?shù)據(jù)安全熟練的醫(yī)院或研究機(jī)構(gòu)——通常不具有提供用于機(jī)器學(xué)習(xí)的隱私保護(hù)編程環(huán)境或者自己執(zhí)行機(jī)器學(xué)習(xí)的機(jī)器學(xué)習(xí)方面的專門知識(shí)。另一方面，諸如計(jì)算機(jī)研究機(jī)構(gòu)的具有機(jī)器學(xué)習(xí)方面的專門知識(shí)的實(shí)體不應(yīng)訪問原始的私有數(shù)據(jù)。

發(fā)明內(nèi)容

因此，本發(fā)明的目的是提供用于隱私保護(hù)參數(shù)數(shù)據(jù)更新特別是用于機(jī)器學(xué)習(xí)的方法和系統(tǒng)，其能夠在不違反有關(guān)各方的任何約束的情況下被執(zhí)行。

該目的至少通過本發(fā)明的技術(shù)方案被解決。

因此，提供了用于利用本發(fā)明的技術(shù)方案中陳述的特征來安全地執(zhí)行參數(shù)數(shù)據(jù)更新的計(jì)算機(jī)實(shí)現(xiàn)的方法。

參數(shù)數(shù)據(jù)可以例如被提供為諸如參數(shù)矩陣或參數(shù)向量或任何其他類型的參數(shù)陣列的參數(shù)張量。以這種方式，可以通過計(jì)算系統(tǒng)和編程語言來有效地讀入、處理和輸出參數(shù)數(shù)據(jù)。

數(shù)據(jù)樣本可以是例如單獨(dú)的醫(yī)學(xué)圖像或批量的醫(yī)學(xué)圖像、電子健康記錄EHR、銀行對賬單、醫(yī)學(xué)報(bào)告和/或任何其他類型的數(shù)據(jù)樣本，特別是受數(shù)據(jù)隱私條例保護(hù)的以及/或者包括私有數(shù)據(jù)的某種類型的數(shù)據(jù)樣本。

多個(gè)相互獨(dú)立的計(jì)算實(shí)例可以被理解為指定多個(gè)計(jì)算實(shí)例，所述多個(gè)計(jì)算實(shí)例至少在計(jì)算期間不能相互通信，并且所述多個(gè)計(jì)算實(shí)例具有使用參數(shù)數(shù)據(jù)使用分配的數(shù)據(jù)樣本作為輸入來計(jì)算獲得的函數(shù)的結(jié)果的能力。在某些情況下，至少在任何計(jì)算期間，獨(dú)立的計(jì)算實(shí)例也可能無法與第三方進(jìn)行通信。獨(dú)立的計(jì)算實(shí)例也可以被稱為“黑盒”。

優(yōu)選地，計(jì)算實(shí)例能夠容易地被生成、安裝或?qū)嵗⑶夷軌蝾愃频厝菀椎乇徊脸矗瑥臎]有產(chǎn)生或生成計(jì)算實(shí)例的任何數(shù)據(jù)中銷毀、解構(gòu)和/或清除。例如，提供計(jì)算實(shí)例可以包括：提供個(gè)人計(jì)算機(jī)，在該個(gè)人計(jì)算機(jī)上安裝操作系統(tǒng)，以及可選地在操作系統(tǒng)內(nèi)提供計(jì)算環(huán)境，例如專用的計(jì)算工具或框架或代碼庫。提供計(jì)算實(shí)例也可以包括：使虛擬化的計(jì)算環(huán)境例如虛擬機(jī)實(shí)例化。