[發(fā)明專利]一種基于同態(tài)加密的安全樸素貝葉斯分類器訓(xùn)練方法

在審

• 申請?zhí)枺?/td>: 202110316582.4
• 申請日: 2021-03-24
• 公開（公告）號: CN112966776A
• 公開（公告）日: 2021-06-15
• 發(fā)明（設(shè)計）人: 沈蒙;唐湘云;高豐;祝烈煌
• 申請（專利權(quán)）人: 之江實驗室;北京理工大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06F21/60;G06F21/62;H04L9/00
• 代理公司: 杭州浙科專利事務(wù)所(普通合伙) 33213
• 代理人: 孫孟輝

本發(fā)明涉及數(shù)據(jù)隱私保護領(lǐng)域，具體涉及一種基于同態(tài)加密的安全樸素貝葉斯分類器訓(xùn)練方法，設(shè)訓(xùn)練數(shù)據(jù)集的記錄共包含C種類別，每個記錄包含d個屬性，具體為：首先對C種類別中的每一類，通過隱私服務(wù)器與所有單位進行交互計算，得到每一類的類先驗概率，即為該樣本類別出現(xiàn)的頻率；然后對第1個屬性到第d個屬性的每一個屬性進行判斷。本發(fā)明在不泄露各家單位的訓(xùn)練數(shù)據(jù)集的隱私的前提下，實現(xiàn)基于多家單位的訓(xùn)練數(shù)據(jù)集，訓(xùn)練樸素貝葉斯分類器，并能夠?qū)崿F(xiàn)即使隱私服務(wù)器與多家單位其中的一些單位串通，串通之后的隱私服務(wù)器或者單位也無法得知其他單位的任何隱私信息。

技術(shù)領(lǐng)域

本發(fā)明涉及數(shù)據(jù)隱私保護領(lǐng)域，具體涉及一種基于同態(tài)加密的安全樸素貝葉斯分類器訓(xùn)練方法。

背景技術(shù)

依托于大數(shù)據(jù)的人工智能浪潮席卷全球，正在推動經(jīng)濟社會各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍升。對于普遍的數(shù)據(jù)分析任務(wù)而言，提升訓(xùn)練數(shù)據(jù)規(guī)模對提高機器學(xué)習(xí)模型的準(zhǔn)確率具有關(guān)鍵作用。2017年，美國谷歌公司的研究人員利用3億張圖像數(shù)據(jù)進行的實驗，印證了訓(xùn)練數(shù)據(jù)規(guī)模對模型質(zhì)量的重要性。鑒于單個機構(gòu)擁有的數(shù)據(jù)規(guī)模有限，為了訓(xùn)練高質(zhì)量的機器學(xué)習(xí)模型，通常需要從多個單位收集訓(xùn)練數(shù)據(jù)。其中，樸素貝葉斯分類器是以假設(shè)特征之間強(樸素)獨立下運用貝葉斯定理為基礎(chǔ)的概率分類器。樸素貝葉斯分類器是高度可擴展的，且計算簡單。

然而，由于訓(xùn)練數(shù)據(jù)往往包含敏感信息(如醫(yī)療記錄、消費記錄等)，利用來自不同單位的數(shù)據(jù)進行樸素貝葉斯訓(xùn)練面臨巨大的隱私泄露風(fēng)險。歐盟實施的《通用數(shù)據(jù)保護條例》和《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)均明確了網(wǎng)絡(luò)運營者的數(shù)據(jù)隱私保護義務(wù)。為了利用多家單位的數(shù)據(jù)進行樸素貝葉斯模型訓(xùn)練，需要設(shè)計安全協(xié)議，來保證沒有隱私泄露地實現(xiàn)基于多家單位的數(shù)據(jù)訓(xùn)練樸素貝葉斯分類器。

使用多家單位進行樸素貝葉斯分類器訓(xùn)練一般可通過如下幾個方案進行：

方案一：多家單位直接將自家數(shù)據(jù)集共享給大家，大家將數(shù)據(jù)集聚集成一個大數(shù)據(jù)集，并將聚合的數(shù)據(jù)集輸入樸素貝葉斯分類器訓(xùn)練算法進行訓(xùn)練。

方案二：多家單位合作雇傭一個第三方。多家單位都將自家數(shù)據(jù)集直接發(fā)送給第三方。第三方將數(shù)據(jù)集聚集成一個大數(shù)據(jù)集，并將聚合的數(shù)據(jù)集輸入樸素貝葉斯分類器訓(xùn)練算法進行訓(xùn)練。

上述第一種方案，有如下技術(shù)缺點：單位擁有的數(shù)據(jù)往往包含本單位的大量敏感信息(如醫(yī)療記錄、通話記錄、消費及借貸記錄等)。將本單位的數(shù)據(jù)共享給其他單位會導(dǎo)致隱私泄露。

上述第二種方案，有如下技術(shù)缺點：多家單位將數(shù)據(jù)共享給第三方。一方面，多家單位的隱私數(shù)據(jù)會通過第三方被泄露。另一方面，第三方有可能與多家單位其中一些單位串通，使得串通的單位能得知其他單位的數(shù)據(jù)隱私。

發(fā)明內(nèi)容

為了解決現(xiàn)有技術(shù)中存在的上述技術(shù)問題，本發(fā)明提供了一種基于同態(tài)加密的安全樸素貝葉斯分類器訓(xùn)練方法，其具體技術(shù)方案如下：

一種基于同態(tài)加密的安全樸素貝葉斯分類器訓(xùn)練方法，設(shè)訓(xùn)練數(shù)據(jù)集的記錄共包含C種類別，每個記錄包含d個屬性，包括如下步驟：

步驟1，對C種類別中的每一類，通過隱私服務(wù)器與所有單位進行交互計算，得到每一類的類先驗概率即為樣本類別出現(xiàn)的頻率，m為數(shù)據(jù)集總記錄數(shù)，y_c表示第y_c類樣本；

步驟2，對第1個屬性到第d個屬性的每一個屬性進行判斷。

進一步的，所述步驟2具體包括：

若該屬性是離散屬性，通過隱私服務(wù)器與所有單位進行交互計算，則得到每個離散屬性的條件概率為：

|x_i|為數(shù)據(jù)集中帶有x_i屬性的記錄條數(shù)；