[發明專利]機器學習應用的有效驗證

在審

• 申請號: 202010498520.5
• 申請日: 2020-06-04
• 公開（公告）號: CN112084255A
• 公開（公告）日: 2020-12-15
• 發明（設計）人: V.S.加納帕瓦拉普;K.薩帕特瓦;K.閃穆加姆;R.瓦庫林
• 申請（專利權）人: 國際商業機器公司
• 主分類號: G06F16/27
• 分類號: G06F16/27;G06F21/62;G06F21/64;G06N20/00
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 邸萬奎

示例操作可以包括以下一項或多項：由訓練參與者客戶端生成多個事務提議，多個事務提議中的每一個對應于用于與隨機梯度下降有關的機器學習模型訓練的訓練迭代，機器學習模型包括多個訓練迭代，事務提議包括由訓練參與者客戶端執行的梯度計算，將多個事務提議傳送到每個包括驗證梯度智能合約的一個或多個背書者節點或對等方，由每個背書者節點或對等方驗證梯度智能合約；向訓練參與者客戶端提供與多個事務提議相對應的背書。

技術領域

本申請總體上涉及機器學習應用的共識(consensus)過程，并且更具體地，涉及機器學習應用的有效驗證。

背景技術

集中式數據庫在一個位置的單個數據庫(例如，數據庫服務器)中存儲和維護數據。該位置通常是中央計算機，例如，臺式中央處理器(CPU)、服務器CPU或大型計算機。通常可以從多個不同點訪問存儲在集中式數據庫中的信息。多個用戶或客戶端工作站可以例如基于客戶端/服務器配置在集中式數據庫上同時工作。因為位于單個位置，集中式數據庫易于管理、維護和控制，特別是出于安全目的。在集中式數據庫中，由于所有數據的單個存儲位置意味著給定的一組數據僅具有一個主記錄，最大程度地減少了數據冗余。

然而，集中式數據庫會遭受重大缺陷。例如，集中式數據庫只有一個故障點。特別是如果沒有容錯性的考慮，并且發生硬件故障(例如，硬件、固件和/或軟件故障)，數據庫中的所有數據都將丟失，并且所有用戶的工作都會中斷。此外，集中式數據庫高度依賴于網絡連接。作為結果，連接速度越慢，每次數據庫訪問所需的時間就會增加。另一個缺點是當集中式數據庫由于單個位置而遇到高流量時會出現瓶頸。此外，由于數據庫僅維護數據的一個副本，因此集中式數據庫提供了對數據的有限訪問。作為結果，多個設備無法同時訪問同一條數據而不會造成嚴重問題或存在覆蓋已存儲數據的風險。此外，由于數據庫存儲系統的數據冗余很小甚至沒有，因此，除了通過手動操作從備份存儲中恢復之外，很難恢復意外丟失的數據。因此，需要克服這些缺點和局限性的解決方案。

發明內容

一個示例實施例提供了一種包括訓練參與者客戶端的系統，包括訓練數據集并且被配置為執行以下一項或多項：生成多個事務提議，每個事務提議對應于用于與隨機梯度下降有關的機器學習模型訓練的訓練迭代，機器學習模型訓練包括多個訓練迭代，事務提議包括由訓練參與者客戶端執行的梯度計算，和區塊鏈網絡，包括一個或多個背書者(endorser)節點或對等方，每個節點或對等方均包括驗證梯度智能合約并配置為執行以下一項或多項：接收多個事務提議，執行驗證梯度智能合約，以及向訓練參與者客戶端提供與多個事務提議相對應的背書。

另一示例實施例提供了一種方法，包括以下一項或多項：由訓練參與者客戶端生成多個事務提議，每個事務提議對應于用于與隨機梯度下降有關的機器學習模型訓練的訓練迭代，機器學習模型訓練包括多個訓練迭代，事務提議包括由訓練參與者客戶端執行的梯度計算，將多個事務提議傳送到一個或多個背書者節點或對等方，每個節點或對等方均包括驗證梯度智能合約，由每個背書者節點或對等方執行驗證梯度智能合約；向訓練參與客戶提供與多個事務提議相對應的背書。

另一示例實施例提供了一種包括指令的非暫時性計算機可讀介質，當指令被處理器讀取時，使處理器執行以下一項或多項操作：由訓練參與者客戶端生成多個事務提議，每個事務提議對應于用于與隨機梯度下降有關的機器學習模型訓練的訓練迭代，機器學習模型訓練包括多個訓練迭代，事務提議包括由訓練參與者客戶端執行的梯度計算，將多個事務提議傳送到一個或多個背書者節點或對等方，每個節點或對等方均包括驗證梯度智能合約，由每個背書者節點或對等方執行驗證梯度智能合約；向訓練參與客戶提供與多個事務提議相對應的背書。

附圖說明

圖1A示出了根據示例實施例的在區塊鏈中驗證梯度事務背書的框圖。

圖1B示出了根據示例實施例的訓練參與者網絡的框圖。

圖1C示出了根據示例實施例的訓練參與者網絡的框圖。