[發(fā)明專利]基于隱私保護的深度學(xué)習(xí)方法、系統(tǒng)、服務(wù)器及存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010092513.5
• 申請日: 2020-02-12
• 公開（公告）號: CN111325322A
• 公開（公告）日: 2020-06-23
• 發(fā)明（設(shè)計）人: 劉利;郭鵬程
• 申請（專利權(quán)）人: 深圳壹賬通智能科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 深圳市世紀恒程知識產(chǎn)權(quán)代理事務(wù)所 44287
• 代理人: 黃嗣童

1.一種基于隱私保護的深度學(xué)習(xí)方法，其特征在于，應(yīng)用于服務(wù)器，所述方法包括步驟：

將已訓(xùn)練的深度學(xué)習(xí)模型中的特征提取模塊發(fā)送至移動終端，以使所述移動終端將待處理數(shù)據(jù)輸入至所述特征提取模塊中，獲得與待處理數(shù)據(jù)對應(yīng)的特征信息，并反饋所述特征信息；

將移動終端反饋的所述特征信息輸入至已訓(xùn)練的深度學(xué)習(xí)模型中的結(jié)果生成模塊，輸出結(jié)果，并將所述結(jié)果發(fā)送至所述移動終端。

2.根據(jù)權(quán)利要求1所述的基于隱私保護的深度學(xué)習(xí)方法，其特征在于，所述將已訓(xùn)練的深度學(xué)習(xí)模型中的特征提取模塊發(fā)送至移動終端的步驟之前，包括：

將多個樣本輸入至待訓(xùn)練深度學(xué)習(xí)模型中的特征提取模塊，輸出與各樣本對應(yīng)的特征信息，其中每個樣本具有對應(yīng)的預(yù)設(shè)標簽；

計算對應(yīng)相同預(yù)設(shè)標簽的特征信息兩兩之間的第一相異度，并計算對應(yīng)不同預(yù)設(shè)標簽的特征信息兩兩之間的第二相異度；

若所述第一相異度和所述第二相異度不符合預(yù)設(shè)規(guī)則，則根據(jù)所述第一相異度和所述第二相異度調(diào)整特征提取模塊，執(zhí)行：所述將多個樣本輸入至特征提取模塊，輸出與各樣本對應(yīng)的特征信息的步驟；

若所述第一相異度和所述第二相異度符合所述預(yù)設(shè)規(guī)則，則獲得已訓(xùn)練的特征提取模塊；

將已訓(xùn)練的特征提取模塊輸出的各樣本的特征信息輸入待訓(xùn)練結(jié)果生成模塊進行訓(xùn)練，獲得已訓(xùn)練的結(jié)果生成模塊。

3.根據(jù)權(quán)利要求2所述的基于隱私保護的深度學(xué)習(xí)方法，其特征在于，所述計算對應(yīng)相同預(yù)設(shè)標簽的特征信息兩兩之間的第一相異度，并計算對應(yīng)不同預(yù)設(shè)標簽的特征信息兩兩之間的第二相異度的步驟包括：

根據(jù)相異度計算公式分別計算對應(yīng)相同預(yù)設(shè)標簽的特征信息兩兩之間的第一相異度，并根據(jù)相異度計算公式分別計算對應(yīng)相同預(yù)設(shè)標簽的特征信息兩兩之間的第二相異度；

所述相異度計算公式為：

和其中margin為預(yù)設(shè)超參數(shù)，L₁為第一相異度，L₂第二相異度，f₁和f₂分別為相同預(yù)設(shè)標簽的兩個特征信息，f₃和f₄分別為不相同預(yù)設(shè)標簽的兩個的特征信息。

4.根據(jù)權(quán)利要求2或3所述的基于隱私保護的深度學(xué)習(xí)方法，其特征在于，所述若所述第一相異度和所述第二相異度不符合預(yù)設(shè)規(guī)則，則根據(jù)所述第一相異度和所述第二相異度調(diào)整特征提取模塊，執(zhí)行：所述將多個樣本輸入至特征提取模塊，輸出與各樣本對應(yīng)的特征信息的步驟包括：

判斷所有第一相異度是否均小于等于第一預(yù)設(shè)閾值以及所有第二相異度是否均大于等于第二預(yù)設(shè)閾值，其中第一預(yù)設(shè)閾值小于第二預(yù)設(shè)閾值；

若至少一第一相異度大于第一預(yù)設(shè)閾值和/或至少一第二相異度小于第二預(yù)設(shè)閾值，則根據(jù)所述第一相異度和所述第二相異度調(diào)整特征提取模塊，執(zhí)行：所述將多個樣本輸入至特征提取模塊，輸出與各樣本對應(yīng)的特征信息的步驟。

5.根據(jù)權(quán)利要求4所述的基于隱私保護的深度學(xué)習(xí)方法，其特征在于，所述將已訓(xùn)練的特征提取模塊輸出的各樣本的特征信息輸入待訓(xùn)練結(jié)果生成模塊進行訓(xùn)練，獲得已訓(xùn)練的結(jié)果生成模塊的步驟包括：

將已訓(xùn)練的特征提取模塊輸出的各樣本的特征信息輸入至待訓(xùn)練結(jié)果生成模塊，輸出與各樣本對應(yīng)的實際結(jié)果；

根據(jù)各樣本的實際結(jié)果和預(yù)設(shè)期望結(jié)果，獲得損失函數(shù)值；

判斷所述損失函數(shù)值是否小于等于第三預(yù)設(shè)閾值；

若否，則根據(jù)所述損失函數(shù)值，采用反向傳播算法對結(jié)果生成模塊的參數(shù)進行調(diào)整，執(zhí)行：所述將已訓(xùn)練的特征提取模塊輸出的各樣本的特征信息輸入至結(jié)果生成模塊，輸出與各樣本對應(yīng)的實際結(jié)果的步驟；

若是，則停止訓(xùn)練，獲得已訓(xùn)練的結(jié)果生成模塊。