[發(fā)明專利]一種基于梯度的圖神經(jīng)網(wǎng)絡(luò)可解釋性分析方法

在審

• 申請?zhí)枺?/td>: 201911069788.0
• 申請日: 2019-11-06
• 公開（公告）號: CN110826699A
• 公開（公告）日: 2020-02-21
• 發(fā)明（設(shè)計(jì)）人: 謝尚晟;魯鳴鳴;李婷
• 申請（專利權(quán)）人: 中南大學(xué)
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種基于梯度的圖神經(jīng)網(wǎng)絡(luò)可解釋性分析方法，其特征在于，包含以下步驟：

步驟1)向訓(xùn)練好參數(shù)的圖神經(jīng)網(wǎng)絡(luò)輸入圖結(jié)構(gòu)數(shù)據(jù)；

步驟2)遞歸計(jì)算圖神經(jīng)網(wǎng)絡(luò)輸出與輸入之間所有前向傳播路徑的梯度；

步驟3)根據(jù)梯度解釋各個(gè)輸入節(jié)點(diǎn)對各個(gè)輸出節(jié)點(diǎn)的影響大小。

2.根據(jù)權(quán)利要求1所述的一種基于梯度的圖神經(jīng)網(wǎng)絡(luò)可解釋性分析方法，其特征在于，所述步驟3)根據(jù)梯度解釋各個(gè)輸入節(jié)點(diǎn)對各個(gè)輸出節(jié)點(diǎn)的影響大小，之后還包括：

步驟4)將各個(gè)輸入節(jié)點(diǎn)對各個(gè)輸出節(jié)點(diǎn)的影響大小進(jìn)行可視化展示與分析。

3.根據(jù)權(quán)利要求1所述的一種基于梯度的圖神經(jīng)網(wǎng)絡(luò)可解釋性分析方法，其特征在于，所述步驟1)向訓(xùn)練好參數(shù)的圖神經(jīng)網(wǎng)絡(luò)輸入圖結(jié)構(gòu)數(shù)據(jù)，訓(xùn)練好參數(shù)的圖神經(jīng)網(wǎng)絡(luò)是指：經(jīng)過優(yōu)化算法迭代計(jì)算后得到的較高預(yù)測準(zhǔn)確率的圖神經(jīng)網(wǎng)絡(luò)；圖結(jié)構(gòu)數(shù)據(jù)是指：包含節(jié)點(diǎn)和邊的拓?fù)浣Y(jié)構(gòu)，其中節(jié)點(diǎn)和邊可以擁有自身的特征向量。

4.根據(jù)權(quán)利要求1所述的一種基于梯度的圖神經(jīng)網(wǎng)絡(luò)可解釋性分析方法，其特征在于，所述圖神經(jīng)網(wǎng)絡(luò)為圖卷積神經(jīng)網(wǎng)絡(luò)，用來執(zhí)行節(jié)點(diǎn)分類任務(wù)。圖卷積神經(jīng)網(wǎng)絡(luò)由圖卷積層堆疊構(gòu)成，每個(gè)圖卷積層匯聚該層中心節(jié)點(diǎn)的一跳鄰居節(jié)點(diǎn)信息。

5.根據(jù)權(quán)利要求1所述的一種基于梯度的圖神經(jīng)網(wǎng)絡(luò)可解釋性分析方法，其特征在于，所述步驟2)遞歸計(jì)算圖神經(jīng)網(wǎng)絡(luò)輸出與輸入之間所有前向傳播路徑的梯度，具體計(jì)算過程如下：

步驟2.1)分別找到影響各個(gè)輸出節(jié)點(diǎn)的所有輸入節(jié)點(diǎn)；

步驟2.2)分別找到這些輸入節(jié)點(diǎn)到各個(gè)輸出節(jié)點(diǎn)的所有前向傳播路徑；

步驟2.3)分別遞歸計(jì)算每條前向傳播路徑中輸出節(jié)點(diǎn)與輸入節(jié)點(diǎn)間的梯度值；

步驟2.4)對于參與某一輸出節(jié)點(diǎn)計(jì)算過程的各個(gè)輸入節(jié)點(diǎn)，將其多個(gè)前向傳播路徑的梯度值分別求和，得到它們各自對這一輸出節(jié)點(diǎn)的總梯度值。

6.根據(jù)權(quán)利要求2所述的一種基于梯度的圖神經(jīng)網(wǎng)絡(luò)可解釋性分析方法，其特征在于，所述步驟4)將各個(gè)輸入節(jié)點(diǎn)對各個(gè)輸出節(jié)點(diǎn)的影響大小進(jìn)行可視化展示與分析，具體展示與分析過程如下：

步驟4.1)在節(jié)點(diǎn)分類任務(wù)中，通過節(jié)點(diǎn)粒度和特征粒度兩個(gè)方面，使用三個(gè)視圖可視化展示K階鄰居節(jié)點(diǎn)對指定輸出節(jié)點(diǎn)的影響大??；

步驟4.2)對于某一輸出節(jié)點(diǎn)，選取參與計(jì)算的部分輸入節(jié)點(diǎn)或節(jié)點(diǎn)特征維度，來進(jìn)一步分析選中節(jié)點(diǎn)或維度對輸出節(jié)點(diǎn)計(jì)算的影響大小。