[發(fā)明專利]一種非交互式的隱私保護(hù)邏輯回歸聯(lián)邦訓(xùn)練方法及系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 202110561403.3
• 申請(qǐng)日: 2021-05-22
• 公開（公告）號(hào): CN113434898B
• 公開（公告）日: 2022-10-18
• 發(fā)明（設(shè)計(jì)）人: 朱輝;王二梅;宛海濤;王楓為;李臨風(fēng);涂敬偉;趙家奇
• 申請(qǐng)（專利權(quán)）人: 西安電子科技大學(xué);中移（蘇州）軟件技術(shù)有限公司
• 主分類號(hào): G06F21/62
• 分類號(hào): G06F21/62;G06F21/57;G06F21/60;G06N20/00
• 代理公司: 西安長(zhǎng)和專利代理有限公司 61227
• 代理人: 黃偉洪

1.一種非交互式的隱私保護(hù)邏輯回歸聯(lián)邦訓(xùn)練方法，其特征在于，所述非交互式的隱私保護(hù)邏輯回歸聯(lián)邦訓(xùn)練方法包括以下步驟：

步驟一，系統(tǒng)初始化與數(shù)據(jù)歸一化；

步驟二，數(shù)據(jù)預(yù)處理和本地訓(xùn)練數(shù)據(jù)加密；

步驟三，密文訓(xùn)練數(shù)據(jù)聚合與解密；

步驟四，邏輯回歸訓(xùn)練與測(cè)試；

步驟一中，所述系統(tǒng)初始化與數(shù)據(jù)歸一化，包括：

可信機(jī)構(gòu)生成系統(tǒng)所需的安全參數(shù)和Paillier加密系統(tǒng)所需的安全參數(shù)，并為數(shù)據(jù)擁有者和云服務(wù)提供商計(jì)算生成所需的密鑰；

可信機(jī)構(gòu)將生成的Paillier加密系統(tǒng)公鑰進(jìn)行拆分，為各個(gè)數(shù)據(jù)擁有者生成分布式數(shù)據(jù)加密密鑰；根據(jù)Paillier加密系統(tǒng)私鑰和系統(tǒng)安全參數(shù)，為云服務(wù)提供商生成聚合數(shù)據(jù)解密密鑰；

可信機(jī)構(gòu)接收來(lái)自所有數(shù)據(jù)擁有者的本地最值數(shù)據(jù)，然后計(jì)算出全局最值數(shù)據(jù)加噪處理之后返回給數(shù)據(jù)擁有者，數(shù)據(jù)擁有者使用全局最值數(shù)據(jù)對(duì)本地?cái)?shù)據(jù)進(jìn)行歸一化處理；

步驟一中，所述系統(tǒng)初始化與數(shù)據(jù)歸一化，還包括：

(1)可信機(jī)構(gòu)執(zhí)行KeyGenerate(κ)算法為數(shù)據(jù)擁有者以及服務(wù)提供商生成計(jì)算所需密鑰，包括：

1)可信機(jī)構(gòu)選擇一個(gè)安全參數(shù)α和兩個(gè)大素?cái)?shù)p，q；其中|p|＝|q|＝α；

2)可信機(jī)構(gòu)用參數(shù)計(jì)算出公鑰N＝pq，私鑰λ＝lcm(p-1，q-1)然后可信機(jī)構(gòu)選擇一個(gè)生成器g，g＝-a^2N；其中，a是一個(gè)中的隨機(jī)數(shù)；

3)生成加密密鑰(N，g)和解密密鑰(φ(N)，μ)；

(2)數(shù)據(jù)擁有者統(tǒng)計(jì)所采集本地訓(xùn)練數(shù)對(duì)所有屬性的最大值和最小值，生成向量：

并將其發(fā)送給可信機(jī)構(gòu)；

假設(shè)存儲(chǔ)在數(shù)據(jù)擁有者的本地?cái)?shù)據(jù)集表示為：

其中，表示訓(xùn)練樣本屬性向量，y^(ik)為目標(biāo)向量，n⁽ⁱ⁾表示屬于數(shù)據(jù)擁有者采集到的樣本個(gè)數(shù)；

(3)可信機(jī)構(gòu)在收到所有數(shù)據(jù)擁有者提交的向量之后，對(duì)中各屬性進(jìn)行比較，提取全局屬性的最大值和最小值，并生成向量和

(4)可信機(jī)構(gòu)在在x^(max)和x^(min)加入擾動(dòng)如下：

并將擾動(dòng)之后的數(shù)據(jù)返回給數(shù)據(jù)擁有者；

(5)各數(shù)據(jù)擁有者在收到＜x^(max)，x^(min)＞之后，通過(guò)計(jì)算對(duì)本地?cái)?shù)據(jù)集進(jìn)行歸一化處理；其中，j＝1，…，d，k＝1，…，n⁽ⁱ⁾；

步驟二中，所述數(shù)據(jù)預(yù)處理和本地訓(xùn)練數(shù)據(jù)加密，包括：

所有數(shù)據(jù)擁有者將歸一化的本地?cái)?shù)據(jù)進(jìn)行處理，生成本地訓(xùn)練數(shù)據(jù)；所有數(shù)據(jù)擁有者使用分布式數(shù)據(jù)加密密鑰對(duì)本地訓(xùn)練數(shù)據(jù)進(jìn)行加密計(jì)算，得到密文本地訓(xùn)練數(shù)據(jù)，并將密文本地訓(xùn)練數(shù)據(jù)發(fā)送給云服務(wù)提供商；

步驟二中，所述數(shù)據(jù)預(yù)處理和本地訓(xùn)練數(shù)據(jù)加密，還包括：

(1)在進(jìn)行數(shù)據(jù)歸一化之后，各數(shù)據(jù)擁有者對(duì)本地訓(xùn)練數(shù)據(jù)集進(jìn)行預(yù)處理；假設(shè)中每一個(gè)訓(xùn)練樣本表示為向量數(shù)據(jù)擁有者首先將X^(ik)擴(kuò)展成為如下(d+1)×(d+1)的矩陣：

之后，從k＝1到k＝n⁽ⁱ⁾；

(2)數(shù)據(jù)擁有者對(duì)所得到的矩陣進(jìn)行求和計(jì)算并將求和結(jié)果M⁽ⁱ⁾作為本地訓(xùn)練數(shù)據(jù)；

(3)在生成本地訓(xùn)練數(shù)據(jù)M⁽ⁱ⁾后，針對(duì)M⁽ⁱ⁾中的每一個(gè)元素a⁽ⁱ⁾∈M⁽ⁱ⁾，數(shù)據(jù)擁有者執(zhí)行Encrypt(a⁽ⁱ⁾)對(duì)其進(jìn)行加密操作，最終數(shù)據(jù)擁有者得到密文本地訓(xùn)練數(shù)據(jù)并將其發(fā)送給云服務(wù)提供商；

步驟三中，所述密文訓(xùn)練數(shù)據(jù)聚合與解密，包括：

云服務(wù)提供商接收所有來(lái)自數(shù)據(jù)擁有者的密文本地訓(xùn)練數(shù)據(jù)，并對(duì)其進(jìn)行聚合計(jì)算，生成密文全局訓(xùn)練數(shù)據(jù)，云服務(wù)提供商使用聚合數(shù)據(jù)解密密鑰對(duì)密文全局訓(xùn)練數(shù)據(jù)進(jìn)行解密，得到全局邏輯回歸訓(xùn)練數(shù)據(jù)；

步驟三中，所述密文訓(xùn)練數(shù)據(jù)聚合與解密，還包括：

(1)當(dāng)云服務(wù)提供商收到所有m個(gè)數(shù)據(jù)擁有者的密文本地訓(xùn)練數(shù)據(jù)之后，針對(duì)中的所有元素云服務(wù)提供商執(zhí)行聚合操作即計(jì)算：

其中，⊙代表矩陣的Hadamard乘積；

(2)對(duì)中的每一個(gè)元素云服務(wù)提供商執(zhí)行機(jī)密操作云服務(wù)提供商得到全局訓(xùn)練數(shù)據(jù)M；使用AX_jj′以及AY_j，j＝0，…，d，j′＝1，…，d來(lái)表示M中的元素；云服務(wù)提供商得到：

AX₀＝(n，AX₀₁，…，AX_0d)；

AX_j＝(AX_0j，AX_j1，…，AX_jd)；

(3)在得到全局訓(xùn)練數(shù)據(jù)M之后，云服務(wù)提供商可通過(guò)以下公式訓(xùn)練全局邏輯回歸模型：

(4)云服務(wù)提供商最終得到高效的模型，并進(jìn)行模型精度的測(cè)試；

步驟四中，所述邏輯回歸訓(xùn)練與測(cè)試，包括：

云服務(wù)提供商利用所得的全局邏輯回歸訓(xùn)練數(shù)據(jù)進(jìn)行訓(xùn)練，得到全局邏輯回歸訓(xùn)練的模型，并對(duì)得到的模型進(jìn)行精度測(cè)試。