[發明專利]一種面向數據隱私保護的機器學習預測方法及系統

有效

• 申請號: 202010105981.1
• 申請日: 2020-02-20
• 公開（公告）號: CN111275202B
• 公開（公告）日: 2023-08-11
• 發明（設計）人: 趙川;趙埼;荊山;張波;陳貞翔;王吉偉
• 申請（專利權）人: 濟南大學
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06F21/60;G06F21/62
• 代理公司: 濟南圣達知識產權代理有限公司 37221
• 代理人: 閆圣娟

本公開提出了一種面向數據隱私保護的機器學習預測方法及系統，方法包括如下步驟：獲取加密后的數據；主服務器創建可信區，在可信區對獲取的待預測數據與預測模型進行解密；主服務器對解密后的待預測數據與預測模型進行秘密分享，分別獲得數據秘密份額和模型份額，并分發至不合謀的輔助服務器和主服務器；輔助服務器和主服務器分別進行預測計算獲得預測結果份額；主服務器對所有預測結果份額進行秘密重建，將重建后的預測結果份額轉發給可信區進行整合并加密，發送至待預測數據提供終端，數據提供終端解密后獲得根據模型預測后的預測結果。結合安全多方計算和SGX技術來保護雙方隱私安全，解決提供預測服務過程中安全性問題。

技術領域

本公開涉及機器學習相關技術領域，具體的說，是涉及一種面向數據隱私保護的機器學習預測方法及系統。

背景技術

本部分的陳述僅僅是提供了與本公開相關的背景技術信息，并不必然構成在先技術。

近年來機器學習等人工智能技術的被廣泛應用在各個領域如圖像識別，文本處理。但是訓練一個模型需要大量的數據，較高的計算資源以及相關專業的知識，對于普通個人和企業來說無疑是困難的。為解決這個問題，各大公司開始提供機器學習即服務，用戶無需學習復雜的機器學習算法，直接上傳數據選擇合適的模型便可獲得預測結果。如亞馬遜機器學習及服務平臺每天可幫助生成數十億的實時預測。發明人發現，雖然預測服務給用戶提供了便利，卻也給個人隱私帶來了威脅。一方面，提供預測數據的用戶的數據存在信息泄露的風險：如在預測有關醫療病理數據等涉及個人敏感信息時，服務平臺可以直接獲取用戶隱私信息，這些信息被上傳存儲在服務器中，若被惡意收集或受到外部攻擊，便會造成個人隱私數據泄露。另一方面，模型提供方預測模型所使用的數據存在泄露風險：近幾年，越來越多針對機器學習的攻擊被提出，如模型反轉攻擊(model?inversion?attack)，成員推理攻擊(membership?attack)等，攻擊者無需直接接觸到原始數據，僅通過攻擊模型，也可以推測原始敏感數據的屬性。若是模型基于隱私數據訓練而成，敵手可以偽裝成誠實用戶，通過惡意查詢進行攻擊，這無疑給機器學習及服務使用帶來了隱患。綜上，在提供基于隱私數據的機器學習預測服務過程中，存在雙向隱私泄漏隱私的問題，包括用戶上傳數據有可能被服務提供者竊取，機構提供預測模型有可能被惡意用戶攻擊的問題，因此，如何實現安全可靠的預測服務在實際應用中具有重要的價值。

發明內容

本公開為了解決上述問題，提出了一種面向數據隱私保護的機器學習預測方法及系統，結合安全多方計算和SGX技術來保護雙方隱私安全，解決上述提供預測服務過程中安全性問題。

為了實現上述目的，本公開采用如下技術方案：

一個或多個實施例提供了一種面向數據隱私保護的機器學習預測方法，包括如下步驟：

獲取數據：主服務器獲取加密后的待預測數據與加密后的預測模型；

主服務器創建可信區，在可信區對獲取的待預測數據與預測模型進行解密；主服務器對解密后的待預測數據與預測模型進行秘密分享，分別獲得數據秘密份額和模型份額，并分發至不合謀的輔助服務器和主服務器；

輔助服務器和主服務器分別根據其獲取的數據秘密份額和模型份額進行預測計算獲得預測結果份額，輔助服務器將獲得預測結果份額加密并發送至主服務器；

主服務器獲取輔助服務器發送的加密后的預測結果份額，對所有預測結果份額進行秘密重建，將重建后的預測結果份額轉發給可信區進行整合并加密，發送至待預測數據提供終端，數據提供終端解密后獲得根據模型預測后的預測結果。

一個或多個實施例提供了一種面向數據隱私保護的機器學習預測方法，包括如下步驟：

獲取數據：主服務器獲取加密后的待預測數據與加密后的預測模型；