[發明專利]一種基于權重不確定的圖卷積神經網絡的優化方法、裝置

在審

• 申請號: 202011546124.1
• 申請日: 2020-12-23
• 公開（公告）號: CN112651436A
• 公開（公告）日: 2021-04-13
• 發明（設計）人: 孫月;閆瀟寧
• 申請（專利權）人: 深圳市安軟科技股份有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 深圳君信誠知識產權代理事務所(普通合伙) 44636
• 代理人: 劉偉

1.一種基于權重不確定的圖卷積神經網絡的優化方法，其特征在于，包括：

獲取圖結構數據并進行預處理；

構建圖卷積神經網絡，并基于所述圖卷積神經網絡的權重參數先驗分布，通過KL散度損失獲取所述圖卷積神經網絡的權重參數后驗分布；

根據所述權重參數后驗分布更新所述圖卷積神經網絡，并使用所述圖結構數據訓練所述更新后的圖卷積神經網絡，得到優化后的圖卷積神經網絡。

2.如權利要求1所述的基于權重不確定的圖卷積神經網絡的優化方法，其特征在于，所述基于所述圖卷積神經網絡的權重參數先驗分布，通過KL散度損失獲取所述圖卷積神經網絡的權重參數后驗分布的步驟包括：

獲取所述圖卷積神經網絡的權重參數先驗分布，所述權重參數包括權重的期望和權重的方差；

初始化所述圖卷積神經網絡的權重參數后驗分布并對進行重采樣，得到所述權重參數后驗分布重采樣后的初始值；

根據所述權重參數先驗分布和所述權重參數后驗分布重采樣后的初始值使用KL散度損失更新所述圖卷積神經網絡的權重參數后驗分布。

3.如權利要求2所述的基于權重不確定的圖卷積神經網絡的優化方法，

其特征在于，所述根據所述權重參數后驗分布更新所述圖卷積神經網絡的步驟包括：

基于所述重采樣權重參數后驗分布進行所述圖卷積神經網絡的前向傳播并計算交叉熵損失；

基于所述交叉熵損失和所述KL散度損失計算總損失；

根據所述總損失使用變分貝葉斯推理進行反向傳播，計算出所述權重參數后驗分布的梯度；

使用所述梯度對所述權重參數后驗分布進行優化，并將優化后的權重參數后驗分布更新所述圖卷積神經網絡的權重參數。

4.如權利要求3所述的基于權重不確定的圖卷積神經網絡的優化方法，其特征在于，所述使用所述梯度對所述權重參數后驗分布進行優化包括：

根據所述梯度對所述權重參數后驗分布進行隨機梯度下降優化。

5.如權利要求4所述的基于權重不確定的圖卷積神經網絡的優化方法，其特征在于，所述KL散度損失使所述權重參數先驗分布與所述權重參數后驗分布之間的距離變小來更新所述權重參數后驗分布。

6.如權利要求1至5任一項所述的基于權重不確定的圖卷積神經網絡的優化方法，其特征在于，所述圖結構數據的預處理包括歸一化處理。

7.一種基于權重不確定的圖卷積神經網絡的優化裝置，其特征在于，包括：

獲取模塊，用于獲取圖結構數據并進行預處理；

構建模塊，用于構建圖卷積神經網絡，并基于所述圖卷積神經網絡的權重參數先驗分布，通過KL散度損失獲取所述圖卷積神經網絡的權重參數后驗分布；

更新模塊，用于根據所述權重參數后驗分布更新所述圖卷積神經網絡，并使用所述圖結構數據訓練所述更新后的圖卷積神經網絡，得到優化后的圖卷積神經網絡。

8.一種基于權重不確定的圖卷積神經網絡的節點分類系統，其特征在于，

包括用于獲取并預處理圖結構數據的獲取單元、用于從所述圖結構數據中提取節點特征并進行節點分類的基于權重不確定的圖卷積神經網絡模型，其中，所述圖卷積神經網絡模型根據如權利要求1至6任一項所述的基于權重不確定的圖卷積神經網絡的優化方法進行優化訓練而具有權重不確定的特性。

9.一種計算機設備，其特征在于，包括存儲器和處理器，所述存儲器中存儲有計算機程序，所述處理器執行所述計算機程序時實現如權利要求1至6中任一項所述的基于權重不確定的圖卷積神經網絡的優化方法的步驟。

10.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質上存儲有計算機程序，所述計算機程序被處理器執行時實現如權利要求1至6中任一項所述的基于權重不確定的圖卷積神經網絡的優化方法的步驟。