[發(fā)明專利]基于X86計(jì)算芯片的多方非監(jiān)督學(xué)習(xí)聯(lián)合建模方法

有效

• 申請?zhí)枺?/td>: 202110532889.8
• 申請日: 2021-05-17
• 公開（公告）號(hào): CN113157400B
• 公開（公告）日: 2022-11-22
• 發(fā)明（設(shè)計(jì)）人: 宋雨筱;陳浩棟;劉堯;毛宏斌;周航;張亞申;周岳騫
• 申請（專利權(quán)）人: 北京沖量在線科技有限公司
• 主分類號(hào): G06F9/455
• 分類號(hào): G06F9/455
• 代理公司: 北京興智翔達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 11768
• 代理人: 郭衛(wèi)芹

1.一種基于X86計(jì)算芯片的多方非監(jiān)督學(xué)習(xí)聯(lián)合建模方法，其特征在于，包括：基于X86架構(gòu)芯片的可信度量管理器、分布式非監(jiān)督類機(jī)器學(xué)習(xí)框架以及隱私計(jì)算互聯(lián)系統(tǒng)，其中，所述分布式非監(jiān)督類機(jī)器學(xué)習(xí)框架包括非監(jiān)督模型參數(shù)服務(wù)器和N方非監(jiān)督模型訓(xùn)練容器，所述基于X86架構(gòu)芯片的可信度量管理器包括若干基于X86架構(gòu)芯片的服務(wù)器，其中一個(gè)基于X86架構(gòu)芯片的服務(wù)器作為服務(wù)方，其它基于X86架構(gòu)芯片的服務(wù)器作為計(jì)算方；

基于所述分布式非監(jiān)督類機(jī)器學(xué)習(xí)框架實(shí)現(xiàn)多方本地進(jìn)行基于局部數(shù)據(jù)的非監(jiān)督模型訓(xùn)練，同時(shí)與參數(shù)服務(wù)器進(jìn)行交互，實(shí)現(xiàn)多方本地模型安全聚合，構(gòu)建全局模型；

方法涉及的各方通過基于MPC、可信執(zhí)行環(huán)境或加密連接方式構(gòu)建的隱私計(jì)算互聯(lián)系統(tǒng)進(jìn)行數(shù)據(jù)傳輸與模型參數(shù)聚合，保證相關(guān)數(shù)據(jù)的隱私型，具體地，各個(gè)計(jì)算參與方在各自的自主創(chuàng)新X86架構(gòu)計(jì)算芯片服務(wù)器上初始化非監(jiān)督學(xué)習(xí)聯(lián)合建模訓(xùn)練容器，各方非監(jiān)督學(xué)習(xí)聯(lián)合建模訓(xùn)練容器通過隱私數(shù)據(jù)互聯(lián)系統(tǒng)從模型參數(shù)服務(wù)方獲取初始化模型參數(shù)，同時(shí)使用各方自己的本地?cái)?shù)據(jù)進(jìn)行模型的非監(jiān)督學(xué)習(xí)訓(xùn)練，同時(shí)也對己方訓(xùn)練數(shù)據(jù)進(jìn)行一致性校驗(yàn)，在完成己方本地模型訓(xùn)練后，各方通過隱私數(shù)據(jù)互聯(lián)系統(tǒng)上傳己方模型參數(shù)或模型迭代參數(shù)到模型參數(shù)服務(wù)方；

所述基于X86架構(gòu)芯片的可信度量管理器用于存儲(chǔ)發(fā)多方非監(jiān)督學(xué)習(xí)聯(lián)合建模算法哈希值及運(yùn)行時(shí)動(dòng)態(tài)度量所執(zhí)行的算法的實(shí)際哈希值從而保證算法實(shí)際執(zhí)行與預(yù)期一致；

所述分布式非監(jiān)督類機(jī)器學(xué)習(xí)框架用于基于各方本地?cái)?shù)據(jù)進(jìn)行分布式非監(jiān)督類機(jī)器學(xué)習(xí)算法運(yùn)行，并匯總各方算法結(jié)果產(chǎn)生全局?jǐn)?shù)據(jù)視角的最終模型；

所述隱私計(jì)算互聯(lián)系統(tǒng)保障各方匯總本地模型參數(shù)時(shí)無隱私數(shù)據(jù)泄密。

2.根據(jù)權(quán)利要求1所述的基于X86計(jì)算芯片的多方非監(jiān)督學(xué)習(xí)聯(lián)合建模方法，其特征在于，所述基于X86架構(gòu)芯片的可信度量管理器還用于：

記錄、存儲(chǔ)、自動(dòng)化核對檢驗(yàn)計(jì)算數(shù)據(jù)哈希度量值檢驗(yàn)，若接收到所述數(shù)據(jù)提供方反饋計(jì)算數(shù)據(jù)信息與對應(yīng)確認(rèn)信息一致，則將發(fā)起實(shí)際非監(jiān)督學(xué)習(xí)聯(lián)合建模任務(wù)。

3.根據(jù)權(quán)利要求1所述的基于X86計(jì)算芯片的多方非監(jiān)督學(xué)習(xí)聯(lián)合建模方法，其特征在于，所述分布式非監(jiān)督類機(jī)器學(xué)習(xí)框架整體依托云原生容器技術(shù)進(jìn)行生命周期管理，實(shí)現(xiàn)多類型非監(jiān)督類機(jī)器學(xué)習(xí)算法的統(tǒng)一抽象和統(tǒng)一管理，并且聯(lián)動(dòng)所述基于X86架構(gòu)芯片的可信度量管理器進(jìn)行運(yùn)行時(shí)聯(lián)合建模任務(wù)涉及的算法、數(shù)據(jù)實(shí)時(shí)校驗(yàn)。

4.根據(jù)權(quán)利要求1所述的基于X86計(jì)算芯片的多方非監(jiān)督學(xué)習(xí)聯(lián)合建模方法，其特征在于，所述分布式非監(jiān)督類機(jī)器學(xué)習(xí)框架基于可信執(zhí)行環(huán)境進(jìn)行模型參與、算法參數(shù)匯聚及計(jì)算，并基于可信執(zhí)行環(huán)境端到端構(gòu)建的安全傳輸層協(xié)議進(jìn)行通信。

5.根據(jù)權(quán)利要求1至4任一所述的基于X86計(jì)算芯片的多方非監(jiān)督學(xué)習(xí)聯(lián)合建模方法，其特征在于，包括：所述隱私計(jì)算互聯(lián)系統(tǒng)基于安全可信的密鑰存儲(chǔ)、完整性報(bào)告和基礎(chǔ)的密碼運(yùn)算功能實(shí)現(xiàn)核心模型參數(shù)、數(shù)據(jù)的互聯(lián)互通，融合計(jì)算。

6.根據(jù)權(quán)利要求1至4任一所述的基于X86計(jì)算芯片的多方非監(jiān)督學(xué)習(xí)聯(lián)合建模方法，其特征在于，所述隱私計(jì)算互聯(lián)系統(tǒng)根據(jù)同態(tài)加密或基于可信隔離域通信兩種方式之一進(jìn)行模型參數(shù)或共享計(jì)算數(shù)據(jù)的加密傳輸與融合。

7.根據(jù)權(quán)利要求1至4任一所述的基于X86計(jì)算芯片的多方非監(jiān)督學(xué)習(xí)聯(lián)合建模方法，其特征在于，所述X86架構(gòu)芯片至少基于一種具備國家TCM及TPCM標(biāo)準(zhǔn)的自主創(chuàng)新國產(chǎn)化芯片進(jìn)行構(gòu)建。