[發(fā)明專利]隱私保護(hù)機(jī)器學(xué)習(xí)

有效

• 申請?zhí)枺?/td>: 201780039382.0
• 申請日: 2017-06-15
• 公開（公告）號: CN109416721B
• 公開（公告）日: 2022-09-09
• 發(fā)明（設(shè)計(jì)）人: M·S·d·S·科斯塔;C·A·M·C·福奈特;A·梅塔;S·諾沃津恩;O·奧里蒙科;F·舒斯特;K·瓦斯瓦尼
• 申請（專利權(quán)）人: 微軟技術(shù)許可有限責(zé)任公司
• 主分類號: G06F21/60
• 分類號: G06F21/60
• 代理公司: 北京世輝律師事務(wù)所 16093
• 代理人: 李崢宇

1.一種多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，包括：

可信執(zhí)行環(huán)境，包括至少一個受保護(hù)的存儲器區(qū)域；

代碼加載器，將從多方中的第一方接收的機(jī)器學(xué)習(xí)代碼加載到所述受保護(hù)的存儲器區(qū)域中；和

數(shù)據(jù)上傳器，將從所述多方中的第二方接收的機(jī)密數(shù)據(jù)上傳到所述受保護(hù)的存儲器區(qū)域；

其中所述可信執(zhí)行環(huán)境使用數(shù)據(jù)不經(jīng)意程序來執(zhí)行所述機(jī)器學(xué)習(xí)代碼以處理所述機(jī)密數(shù)據(jù)并且將結(jié)果返回給所述多方中的一方，其中數(shù)據(jù)不經(jīng)意程序是其中任何的存儲器訪問的模式、磁盤訪問的模式和網(wǎng)絡(luò)訪問的模式使得無法從所述模式預(yù)測所述機(jī)密數(shù)據(jù)的過程；

其中所述可信執(zhí)行環(huán)境使用不經(jīng)意隨機(jī)存取存儲器以訪問所述機(jī)密數(shù)據(jù)來實(shí)施所述數(shù)據(jù)不經(jīng)意程序，并且其中所述機(jī)器學(xué)習(xí)代碼適于使用所述不經(jīng)意隨機(jī)存取存儲器；或者

其中所述可信執(zhí)行環(huán)境使用一個或多個數(shù)據(jù)不經(jīng)意原語的組合來實(shí)施所述數(shù)據(jù)不經(jīng)意程序，其中不經(jīng)意原語是不具有數(shù)據(jù)相關(guān)分支并且不顯示使用哪個輸入來產(chǎn)生所述不經(jīng)意原語的輸出的操作。

2.根據(jù)權(quán)利要求1所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所述可信執(zhí)行環(huán)境執(zhí)行所述機(jī)器學(xué)習(xí)代碼以或者訓(xùn)練機(jī)器學(xué)習(xí)系統(tǒng)，或者使用已經(jīng)訓(xùn)練過的機(jī)器學(xué)習(xí)系統(tǒng)來生成預(yù)測。

3.根據(jù)權(quán)利要求1所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所述數(shù)據(jù)不經(jīng)意原語中的至少一個數(shù)據(jù)不經(jīng)意原語是通過以高速緩存行粒度而不是以元素粒度或字節(jié)粒度掃描陣列來訪問所述陣列的操作。

4.根據(jù)權(quán)利要求3所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中使用向量操作來實(shí)施以高速緩存行粒度進(jìn)行的所述陣列的所述掃描。

5.根據(jù)權(quán)利要求1所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所接收的所述數(shù)據(jù)包括被標(biāo)記的訓(xùn)練數(shù)據(jù)，并且其中所述數(shù)據(jù)上傳器或所述可信執(zhí)行環(huán)境被配置成在執(zhí)行所述機(jī)器學(xué)習(xí)代碼之前，安全地置亂被標(biāo)記的所述訓(xùn)練數(shù)據(jù)。

6.根據(jù)權(quán)利要求5所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所述安全地 置亂包括對于對敵手隱藏的所述訓(xùn)練數(shù)據(jù)的排序過程或隨機(jī)排列的不經(jīng)意實(shí)施方式。

7.根據(jù)權(quán)利要求1所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所述可信執(zhí)行環(huán)境使用迭代地計(jì)算數(shù)據(jù)集群的質(zhì)心的數(shù)據(jù)不經(jīng)意程序。

8.根據(jù)權(quán)利要求1所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所述可信執(zhí)行環(huán)境使用迭代地計(jì)算支持向量機(jī)的權(quán)重的數(shù)據(jù)不經(jīng)意程序。

9.根據(jù)權(quán)利要求1所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所述可信執(zhí)行環(huán)境使用計(jì)算神經(jīng)網(wǎng)絡(luò)變換的分段近似的數(shù)據(jù)不經(jīng)意程序。

10.根據(jù)權(quán)利要求1所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所述可信執(zhí)行環(huán)境使用計(jì)算決策樹的評估的數(shù)據(jù)不經(jīng)意程序。

11.根據(jù)權(quán)利要求10所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所述可信執(zhí)行環(huán)境將所述決策樹存儲為多個節(jié)點(diǎn)的陣列，并且通過遍歷所述決策樹和掃描所述陣列來評估所述決策樹。

12.根據(jù)權(quán)利要求1所述的多方隱私保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)，其中所述可信執(zhí)行環(huán)境使用通過不經(jīng)意地掃描至少一個矩陣來計(jì)算矩陣分解的數(shù)據(jù)不經(jīng)意程序，所述至少一個矩陣包括用戶數(shù)據(jù)的行和項(xiàng)數(shù)據(jù)的行，所述行被交錯，以便所述矩陣的列的掃描以指定的速率輸出用于單獨(dú)的用戶的數(shù)據(jù)。