[發(fā)明專(zhuān)利]模型的訓(xùn)練方法、裝置和服務(wù)器

有效

• 申請(qǐng)?zhí)枺?/td>: 202110472698.7
• 申請(qǐng)日: 2021-04-29
• 公開(kāi)（公告）號(hào): CN113255928B
• 公開(kāi)（公告）日: 2022-07-05
• 發(fā)明（設(shè)計(jì)）人: 周亞順;王華忠;尹棟
• 申請(qǐng)（專(zhuān)利權(quán)）人: 支付寶（杭州）信息技術(shù)有限公司
• 主分類(lèi)號(hào): G06N20/00
• 分類(lèi)號(hào): G06N20/00;G06N3/08;G06F21/62;G06F21/60;H04L9/40
• 代理公司: 北京三友知識(shí)產(chǎn)權(quán)代理有限公司 11127
• 代理人: 童磊;周達(dá)

1.一種模型的訓(xùn)練方法，應(yīng)用于第一數(shù)據(jù)方，包括：

響應(yīng)針對(duì)目標(biāo)數(shù)據(jù)處理的當(dāng)前輪當(dāng)前批的數(shù)據(jù)處理請(qǐng)求，檢測(cè)當(dāng)前輪當(dāng)前批的數(shù)據(jù)處理是否滿足預(yù)設(shè)的觸發(fā)條件；

在確定當(dāng)前輪當(dāng)前批的數(shù)據(jù)處理滿足預(yù)設(shè)的觸發(fā)條件的情況下，確定當(dāng)前批的批標(biāo)識(shí)作為目標(biāo)批標(biāo)識(shí)；并根據(jù)目標(biāo)批標(biāo)識(shí)，從本地存儲(chǔ)的隨機(jī)矩陣集中確定出匹配的目標(biāo)隨機(jī)矩陣；

根據(jù)預(yù)設(shè)協(xié)議，利用所述目標(biāo)隨機(jī)矩陣，與第二數(shù)據(jù)方、第三數(shù)據(jù)方合作，計(jì)算得到針對(duì)目標(biāo)數(shù)據(jù)處理的當(dāng)前輪當(dāng)前批的處理結(jié)果秘密的第一分片；其中，所述第二數(shù)據(jù)方根據(jù)預(yù)設(shè)協(xié)議，利用本地存儲(chǔ)的中間矩陣集，與第一數(shù)據(jù)方、第三數(shù)據(jù)方合作，計(jì)算得到處理結(jié)果秘密的第二分片；所述處理結(jié)果秘密的第一分片和處理結(jié)果秘密的第二分片用于目標(biāo)模型的聯(lián)合訓(xùn)練。

2.根據(jù)權(quán)利要求1所述的方法，檢測(cè)當(dāng)前輪當(dāng)前批的數(shù)據(jù)處理是否滿足預(yù)設(shè)的觸發(fā)條件，包括：

檢測(cè)當(dāng)前輪的輪數(shù)是否大于預(yù)設(shè)的輪數(shù)閾值；

或，檢測(cè)當(dāng)前本地存儲(chǔ)的隨機(jī)矩陣集是否為空。

3.根據(jù)權(quán)利要求1所述的方法，根據(jù)預(yù)設(shè)協(xié)議，利用所述目標(biāo)隨機(jī)矩陣，與第二數(shù)據(jù)方、第三數(shù)據(jù)方合作，計(jì)算得到針對(duì)目標(biāo)數(shù)據(jù)處理的當(dāng)前輪當(dāng)前批的處理結(jié)果秘密的第一分片，包括：

接收第三數(shù)據(jù)方提供的第一隨機(jī)向量；其中，所述第三數(shù)據(jù)方響應(yīng)所述數(shù)據(jù)處理請(qǐng)求，根據(jù)目標(biāo)批標(biāo)識(shí)和本地存儲(chǔ)的隨機(jī)矩陣集，生成針對(duì)當(dāng)前輪當(dāng)前批的第一隨機(jī)向量、第二隨機(jī)向量和第三隨機(jī)向量；并將第二隨機(jī)向量和第三隨機(jī)向量提供給第二數(shù)據(jù)方；

接收第二數(shù)據(jù)方提供的針對(duì)當(dāng)前輪當(dāng)前批的目標(biāo)中間向量；其中，所述第二數(shù)據(jù)方根據(jù)模型參數(shù)向量、第三隨機(jī)向量，生成所述目標(biāo)中間向量；

根據(jù)所述目標(biāo)中間向量、目標(biāo)隨機(jī)矩陣、第一隨機(jī)向量，計(jì)算得到針對(duì)目標(biāo)數(shù)據(jù)處理的當(dāng)前輪當(dāng)前批的處理結(jié)果秘密的第一分片。

4.根據(jù)權(quán)利要求1所述的方法，所述目標(biāo)模型的聯(lián)合訓(xùn)練，包括：基于牛頓法的目標(biāo)模型的聯(lián)合訓(xùn)練，或基于梯度下降法的目標(biāo)模型的聯(lián)合訓(xùn)練。

5.根據(jù)權(quán)利要求4所述的方法，在所述目標(biāo)模型的聯(lián)合訓(xùn)練包括基于牛頓法的目標(biāo)模型的聯(lián)合訓(xùn)練的情況下，所述處理結(jié)果包括以下至少之一：特征數(shù)據(jù)和模型參數(shù)之間乘積、損失函數(shù)的梯度、海森矩陣。

6.根據(jù)權(quán)利要求4所述的方法，在所述目標(biāo)模型的聯(lián)合訓(xùn)練包括基于梯度下降法的目標(biāo)模型的聯(lián)合訓(xùn)練的情況下，所述處理結(jié)果包括以下至少之一：特征數(shù)據(jù)和模型參數(shù)之間乘積、損失函數(shù)的梯度。

7.根據(jù)權(quán)利要求3所述的方法，在檢測(cè)當(dāng)前輪當(dāng)前批的數(shù)據(jù)處理是否滿足預(yù)設(shè)的觸發(fā)條件之后，所述方法還包括：

在確定當(dāng)前輪當(dāng)前批的數(shù)據(jù)處理不滿足預(yù)設(shè)的觸發(fā)條件的情況下，接收第三數(shù)據(jù)方提供的第一隨機(jī)向量、隨機(jī)矩陣；其中，所述第三數(shù)據(jù)方響應(yīng)所述數(shù)據(jù)處理請(qǐng)求，生成針對(duì)當(dāng)前輪當(dāng)前批的隨機(jī)矩陣、第一隨機(jī)向量、第二隨機(jī)向量和第三隨機(jī)向量；并將第二隨機(jī)向量和第三隨機(jī)向量提供給第二數(shù)據(jù)方，將所述隨機(jī)矩陣保存于第三數(shù)據(jù)方本地的隨機(jī)矩陣集中；

將所述隨機(jī)矩陣保存于第一數(shù)據(jù)方本地的隨機(jī)矩陣集中；并根據(jù)特征矩陣、所述隨機(jī)矩陣，生成針對(duì)當(dāng)前輪當(dāng)前批的中間矩陣；

將所述中間矩陣發(fā)送至第二數(shù)據(jù)方，并接收第二數(shù)據(jù)方提供的針對(duì)當(dāng)前輪當(dāng)前批的中間向量；其中，所述第二數(shù)據(jù)方將所接收到的中間矩陣保存于第二數(shù)據(jù)方本地的中間矩陣集中；

根據(jù)所述中間向量、隨機(jī)矩陣、第一隨機(jī)向量，計(jì)算得到對(duì)應(yīng)的處理結(jié)果秘密的第一分片。

8.根據(jù)權(quán)利要求7所述的方法，將所述隨機(jī)矩陣保存于第一數(shù)據(jù)方本地的隨機(jī)矩陣集中，包括：

獲取當(dāng)前批的批標(biāo)識(shí)；

將所述隨機(jī)矩陣保存于第一數(shù)據(jù)方本地的隨機(jī)矩陣集中，并保存所述隨機(jī)矩陣與所述當(dāng)前批的批標(biāo)識(shí)的映射關(guān)系。

9.根據(jù)權(quán)利要求1所述的方法，所述目標(biāo)模型包括用于交易風(fēng)險(xiǎn)預(yù)測(cè)的邏輯回歸模型。