[發(fā)明專利]融合高階結(jié)構(gòu)嵌入與復(fù)合池化的圖分類方法及系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202210486421.4
• 申請(qǐng)日: 2022-05-06
• 公開(kāi)（公告）號(hào): CN114792384A
• 公開(kāi)（公告）日: 2022-07-26
• 發(fā)明（設(shè)計(jì)）人: 劉士軍;劉蓮蓮;梅廣旭;潘麗;楊承磊
• 申請(qǐng)（專利權(quán)）人: 山東大學(xué)
• 主分類號(hào): G06V10/764
• 分類號(hào): G06V10/764;G06V10/80;G06V10/82;G06N3/04;G06N3/08
• 代理公司: 濟(jì)南圣達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 37221
• 代理人: 趙妍

本發(fā)明屬于人工智能圖分類技術(shù)領(lǐng)域，提供了融合高階結(jié)構(gòu)嵌入與復(fù)合池化的圖分類方法及系統(tǒng)，包括：獲取待分類的圖；將待分類的圖輸入圖神經(jīng)網(wǎng)絡(luò)，得到圖所屬類別；其中，對(duì)于圖的每個(gè)子圖集合，每一層卷積層基于上一層神經(jīng)網(wǎng)絡(luò)層輸出的子圖集合，計(jì)算每個(gè)子圖的特征，每一層復(fù)合池化層基于卷積層輸出的每個(gè)子圖的特征更新子圖集合，同時(shí)，對(duì)于更新后子圖集合內(nèi)的每個(gè)子圖，通過(guò)注意力機(jī)制融合局部鄰域內(nèi)子圖的特征，更新子圖的特征；讀出層得到圖表示向量，并輸入所述分類器，得到圖所屬類別。利用高階結(jié)構(gòu)，直接在子圖之間傳遞消息，捕獲節(jié)點(diǎn)級(jí)別不可見(jiàn)的結(jié)構(gòu)信息，提高了圖的分類精度。

技術(shù)領(lǐng)域

本發(fā)明屬于人工智能圖分類技術(shù)領(lǐng)域，尤其涉及融合高階結(jié)構(gòu)嵌入與復(fù)合池化的圖分類方法及系統(tǒng)。

背景技術(shù)

本部分的陳述僅僅是提供了與本發(fā)明相關(guān)的背景技術(shù)信息，不必然構(gòu)成在先技術(shù)。

在現(xiàn)實(shí)生活中，許多真實(shí)場(chǎng)景的數(shù)據(jù)可以很自然地用圖來(lái)表示，從生物和化學(xué)信息學(xué)到社交網(wǎng)絡(luò)分析，圖結(jié)構(gòu)數(shù)據(jù)在應(yīng)用領(lǐng)域中無(wú)處不在，圖分類是其中一個(gè)重要的應(yīng)用。簡(jiǎn)單地說(shuō)，給定一個(gè)(G，y)形式的圖的數(shù)據(jù)集，其中G表示一個(gè)圖，y是它的類別，圖分類任務(wù)的目標(biāo)是利用給定的圖結(jié)構(gòu)和節(jié)點(diǎn)特征來(lái)預(yù)測(cè)與整個(gè)圖相關(guān)聯(lián)的標(biāo)簽。許多現(xiàn)實(shí)中的圖都具有典型的局部結(jié)構(gòu)，例如在社交網(wǎng)絡(luò)圖中，各個(gè)節(jié)點(diǎn)周圍的自我網(wǎng)絡(luò)以及整個(gè)社區(qū)的復(fù)雜多元關(guān)系具有層次特征；在化學(xué)分子網(wǎng)絡(luò)圖中，為了有效地對(duì)有機(jī)分子的圖結(jié)構(gòu)進(jìn)行標(biāo)記，對(duì)代表分子中功能單元的原子團(tuán)和鍵等復(fù)雜結(jié)構(gòu)進(jìn)行編碼。這樣的復(fù)雜多元結(jié)構(gòu)在圖中被定義為高階結(jié)構(gòu)，它們?cè)诰W(wǎng)絡(luò)子圖的特征表示中起著至關(guān)重要的作用。為了在圖領(lǐng)域開(kāi)發(fā)出有效的圖分類模型，需要充分利用圖結(jié)構(gòu)固有的豐富信息以及包含在圖節(jié)點(diǎn)和邊上的特征信息。近年來(lái)，大量的相關(guān)模型被提出，來(lái)捕捉圖中的復(fù)雜結(jié)構(gòu)關(guān)系以提升模型在具體任務(wù)的表現(xiàn)。這些模型雖然在各自問(wèn)題上有良好的表現(xiàn)，但還存在以下不足：

(1)現(xiàn)有模型僅使用圖中頂點(diǎn)和邊的信息用于分類，缺乏對(duì)高階圖結(jié)構(gòu)信息的關(guān)注，而實(shí)際應(yīng)用中相互作用可能在三個(gè)或更多節(jié)點(diǎn)的組中發(fā)生，它們不能簡(jiǎn)單地描述為實(shí)體間的成對(duì)關(guān)系，而是可分解、表達(dá)為不同層次的高階結(jié)構(gòu)，例如，圖2的演員社交網(wǎng)絡(luò)圖中高階結(jié)構(gòu)及節(jié)點(diǎn)特征起重要作用，黃色、綠色藍(lán)色虛線框分別表示二階子圖、三階子圖與四階子圖，而現(xiàn)有模型無(wú)法表現(xiàn)這種復(fù)雜關(guān)系。

(2)現(xiàn)有模型大多缺乏層次結(jié)構(gòu)，自然構(gòu)成的圖結(jié)構(gòu)本身就是從單個(gè)節(jié)點(diǎn)經(jīng)過(guò)互相關(guān)聯(lián)而成，其中蘊(yùn)含了大量的結(jié)構(gòu)語(yǔ)義，以分層的方式學(xué)習(xí)圖的表示對(duì)于捕捉圖中存在的局部結(jié)構(gòu)非常重要。

(3)為了在圖分類任務(wù)中實(shí)現(xiàn)層次化結(jié)構(gòu)，現(xiàn)有圖神經(jīng)網(wǎng)絡(luò)方法使用池化機(jī)制實(shí)現(xiàn)分層學(xué)習(xí)。然而現(xiàn)有模型中圖池化方式單一，未參與圖池化的子圖在拓?fù)渖蛇^(guò)程中被直接舍棄，導(dǎo)致圖特征信息丟失；并且仍然僅關(guān)注于節(jié)點(diǎn)級(jí)別而未考慮更高階的結(jié)構(gòu)信息；并且在生成池圖拓?fù)鋾r(shí)沒(méi)有明確地同時(shí)考慮圖拓?fù)浣Y(jié)構(gòu)和節(jié)點(diǎn)特征表示。

發(fā)明內(nèi)容

為了解決上述背景技術(shù)中存在的技術(shù)問(wèn)題，本發(fā)明提供融合高階結(jié)構(gòu)嵌入與復(fù)合池化的圖分類方法及系統(tǒng)，利用高階結(jié)構(gòu)，直接在子圖之間傳遞消息，捕獲節(jié)點(diǎn)級(jí)別不可見(jiàn)的結(jié)構(gòu)信息，提高了圖的分類精度。

為了實(shí)現(xiàn)上述目的，本發(fā)明采用如下技術(shù)方案：

本發(fā)明的第一個(gè)方面提供融合高階結(jié)構(gòu)嵌入與復(fù)合池化的圖分類方法，其包括：

獲取待分類的圖；

將待分類的圖輸入圖神經(jīng)網(wǎng)絡(luò)，得到圖所屬類別；

其中，圖神經(jīng)網(wǎng)絡(luò)包括讀出層、分類器以及多層依次連接的神經(jīng)網(wǎng)絡(luò)層，每個(gè)神經(jīng)網(wǎng)絡(luò)層由依次連接的卷積層和復(fù)合池化層組成；對(duì)于所述圖的每個(gè)子圖集合，每一層卷積層基于上一層神經(jīng)網(wǎng)絡(luò)層輸出的子圖集合，計(jì)算每個(gè)子圖的特征，每一層復(fù)合池化層基于卷積層輸出的每個(gè)子圖的特征更新子圖集合，同時(shí)，對(duì)于更新后子圖集合內(nèi)的每個(gè)子圖，通過(guò)注意力機(jī)制融合局部鄰域內(nèi)子圖的特征，更新子圖的特征；所述讀出層將最后一層神經(jīng)網(wǎng)絡(luò)層輸出的所有子圖集合中的所有子圖的特征進(jìn)行聚合，得到圖表示向量，并輸入所述分類器，得到圖所屬類別。