[發明專利]圖神經網絡訓練方法、裝置、計算設備及存儲介質有效
| 申請號: | 202110605272.4 | 申請日: | 2021-05-31 |
| 公開(公告)號: | CN113254996B | 公開(公告)日: | 2022-12-27 |
| 發明(設計)人: | 李登昊;王健宗;黃章成 | 申請(專利權)人: | 平安科技(深圳)有限公司 |
| 主分類號: | G06F21/62 | 分類號: | G06F21/62;G06F21/60;G06N3/08 |
| 代理公司: | 深圳國新南方知識產權代理有限公司 44374 | 代理人: | 周雷 |
| 地址: | 518000 廣東省深圳市福田區福*** | 國省代碼: | 廣東;44 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 神經網絡 訓練 方法 裝置 計算 設備 存儲 介質 | ||
1.一種圖神經網絡訓練方法,其特征在于,應用在一種圖神經網絡訓練系統中,所述圖神經網絡訓練系統包括訓練終端以及可信終端;所述訓練終端包括多個第一終端以及一個第二終端;不同的訓練終端包括不同的本地圖數據以及本地圖神經網絡;所述圖神經網絡訓練方法包括:
通過所述訓練終端根據所述本地圖數據計算對應的本地特征;
基于所述本地特征,通過所述第一終端與所述第二終端進行秘密分享,得到所述本地特征對應的混淆局部特征,并將所述混淆局部特征發送給所述可信終端;
通過所述可信終端基于各訓練終端發送的混淆局部特征進行還原聚合,以獲取全局特征,并基于所述全局特征訓練全局圖神經網絡,以將得到的網絡輸出結果發送至所述第二終端,以使所述第二終端根據所述網絡輸出結果計算網絡梯度并返回給所述可信終端;
通過所述可信終端根據所述網絡梯度更新所述全局圖神經網絡,以得到更新后的網絡參數,并將所述更新后的網絡參數發送至對應的所述訓練終端以更新所述本地圖神經網絡;
所述本地特征包括所述第一終端計算得到的第一本地特征以及所述第二終端計算得到的第二本地特征;
所述通過所述訓練終端根據所述本地圖數據計算對應的本地特征,包括:
通過所述第一終端構建對應的第一秘密分享矩陣;以及通過所述第二終端構建對應的第二秘密分享矩陣;
通過所述第一終端將所述第一秘密分享矩陣與所述第一終端對應的本地圖數據相乘,得到所述第一本地特征;以及,通過所述第二終端將所述第二秘密分享矩陣與所述第二終端對應的本地圖數據相乘,得到所述第二本地特征;
所述基于所述本地特征,通過所述第一終端與所述第二終端進行秘密分享,得到所述本地特征對應的混淆局部特征,包括:
通過所述第一終端隨機生成第一秘密參數對,以基于所述第一秘密參數對以及所述第一本地特征,與所述第二終端進行秘密分享,得到所述第二終端對應的混淆局部特征;
通過所述第二終端隨機生成第二秘密參數對,以基于所述第二秘密參數對以及所述第二本地特征,與所述第一終端進行秘密分享,得到所述第一終端對應的混淆局部特征;
其中,所述第一秘密參數對以及所述第二秘密參數對均為一組絕對值相同的正負數;
所述第二終端包括訓練樣本所需的標簽數據,所述第二終端根據所述網絡輸出結果計算網絡梯度包括:
所述第二終端調用預設的損失函數,根據所述網絡輸出結果以及所述標簽數據計算網絡損失,并根據所述網絡損失對網絡中的網絡參數求偏導,獲取所述網絡參數對應的網絡梯度。
2.如權利要求1所述圖神經網絡訓練方法,其特征在于,所述將所述混淆局部特征發送給所述可信終端,包括:
通過所述第二終端將所述第二終端對應的混淆局部特征發送給所述可信終端;以及,通過所述第一終端將所述第一秘密參數對發送給所述可信終端,以使所述可信終端根據所述第一秘密參數對還原所述第一終端對應的混淆局部特征;
通過所述第一終端將所述第一終端對應的混淆局部特征發送給所述可信終端;以及,通過所述第二終端將所述第二秘密參數對發送給所述可信終端,以使所述可信終端根據所述第二秘密參數對還原所述第二終端對應的混淆局部特征。
3.如權利要求1所述圖神經網絡訓練方法,其特征在于,所述第一本地特征包括與所述第二終端對應的第一目標矩陣;所述基于第一秘密參數對以及所述第一本地特征,與所述第二終端進行秘密分享,以得到所述第二終端對應的混淆局部特征,包括:
對所述第一目標矩陣進行分解,得到第一子矩陣和第二子矩陣;其中,所述第一子矩陣和所述第二子矩陣的矩陣加和為所述第一目標矩陣;
基于所述第一秘密參數對所述第一子矩陣和所述第二子矩陣進行數據混淆,得到第一秘密矩陣和第二秘密矩陣;
將所述第一秘密矩陣和所述第二秘密矩陣發送給所述第二終端,以使所述第二終端將對應的本地圖數據,分別與所述第一秘密矩陣和所述第二秘密矩相乘,得到所述第二終端對應的混淆局部特征。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于平安科技(深圳)有限公司,未經平安科技(深圳)有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202110605272.4/1.html,轉載請聲明來源鉆瓜專利網。





