[發(fā)明專利]機器學習應用的有效驗證

在審

• 申請?zhí)枺?/td>: 202010498520.5
• 申請日: 2020-06-04
• 公開（公告）號: CN112084255A
• 公開（公告）日: 2020-12-15
• 發(fā)明（設計）人: V.S.加納帕瓦拉普;K.薩帕特瓦;K.閃穆加姆;R.瓦庫林
• 申請（專利權(quán)）人: 國際商業(yè)機器公司
• 主分類號: G06F16/27
• 分類號: G06F16/27;G06F21/62;G06F21/64;G06N20/00
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 邸萬奎

1.一種系統(tǒng)，包括：

訓練參與者客戶端，包括訓練數(shù)據(jù)集并配置為：

生成多個事務提議，多個事務提議的每一個對應于與隨機梯度下降有關的機器學習模型訓練的一個訓練迭代，機器學習模型訓練包括多個訓練迭代，事務提議包括由訓練參與者客戶端執(zhí)行的梯度計算；和

區(qū)塊鏈網(wǎng)絡，包括：

一個或多個背書者節(jié)點或?qū)Φ确剑總€節(jié)點或?qū)Φ确桨ㄒ粋€驗證梯度智能合約，并配置為：

接收多個事務提議；

執(zhí)行驗證梯度智能合約；和

向訓練參與者客戶端提供與多個事務提議相對應的背書。

2.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中，驗證梯度智能合約不執(zhí)行梯度計算，其中，驗證梯度智能合約驗證來自事務提議的梯度計算的結(jié)果。

3.根據(jù)權(quán)利要求2所述的系統(tǒng)，其中，事務提議從訓練數(shù)據(jù)集中指定批次、損失函數(shù)、當前參數(shù)權(quán)重和梯度計算。

4.根據(jù)權(quán)利要求3所述的系統(tǒng)，其中，批次包括來自訓練數(shù)據(jù)集的用于訓練迭代的樣本子集。

5.根據(jù)權(quán)利要求2所述的系統(tǒng)，其中，與訓練數(shù)據(jù)集相對應的數(shù)據(jù)和模型參數(shù)存儲在區(qū)塊鏈網(wǎng)絡外部，其中，與驗證相關的數(shù)據(jù)存儲在區(qū)塊鏈網(wǎng)絡的區(qū)塊鏈中。

6.根據(jù)權(quán)利要求2所述的系統(tǒng)，其中，響應于訓練參與者客戶端接收到背書，訓練參與者客戶端將背書包括在事務中，并將事務提交給區(qū)塊鏈網(wǎng)絡。

7.根據(jù)權(quán)利要求2所述的系統(tǒng)，其中，一個或多個背書者節(jié)點或?qū)Φ确讲话炞C梯度智能合約，其中，一個或多個背書者節(jié)點將事務提議轉(zhuǎn)發(fā)給區(qū)塊鏈網(wǎng)絡外部的獨立審計方，其中，獨立審計方包括驗證梯度智能合約并配置為：

接收多個事務提議；

執(zhí)行驗證梯度智能合約；和

將與多個事務提議相對應的驗證結(jié)果提供給背書者節(jié)點或?qū)Φ确健?/p>

8.一種方法，包括：

由訓練參與者客戶端生成多個事務提議，多個事務提議中的每一個對應于用于一個與隨機梯度下降有關的機器學習模型訓練的訓練迭代，機器學習模型訓練包括多個訓練迭代，事務提議包括由訓練參與者客戶端執(zhí)行的梯度計算；

將多個事務提議傳送到一個或多個背書者節(jié)點或?qū)Φ确剑總€背書者節(jié)點或?qū)Φ确桨炞C梯度智能合約；

由每個背書者節(jié)點或?qū)Φ确綀?zhí)行驗證梯度智能合約；和

向訓練參與者客戶端提供與多個事務提議相對應的背書。

9.根據(jù)權(quán)利要求8所述的方法，其中，驗證梯度智能合約不執(zhí)行梯度計算，其中，驗證梯度智能合約驗證來自事務提議的梯度計算的結(jié)果。

10.根據(jù)權(quán)利要求9所述的方法，其中，訓練參與者客戶端包括訓練數(shù)據(jù)集，其中，每個事務提議從訓練數(shù)據(jù)集中指定批次、損失函數(shù)、當前參數(shù)權(quán)重和梯度計算。

11.根據(jù)權(quán)利要求10所述的方法，其中，批次包括來自訓練數(shù)據(jù)集的用于訓練迭代的樣本子集。

12.根據(jù)權(quán)利要求10所述的方法，其中，與訓練數(shù)據(jù)集相對應的數(shù)據(jù)和模型參數(shù)存儲在區(qū)塊鏈網(wǎng)絡外部，其中，與驗證相關的數(shù)據(jù)存儲在區(qū)塊鏈網(wǎng)絡的區(qū)塊鏈中。

13.根據(jù)權(quán)利要求9所述的方法，其中，響應于訓練參與者客戶端接收到背書，方法進一步包括：

由訓練參與者客戶端將背書包括在事務中；和

將事務提交給區(qū)塊鏈網(wǎng)絡。