[發(fā)明專利]一種雙速時空圖卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)及數(shù)據(jù)處理方法

在審

• 申請?zhí)枺?/td>: 202110703698.3
• 申請日: 2021-06-24
• 公開（公告）號: CN113435576A
• 公開（公告）日: 2021-09-24
• 發(fā)明（設(shè)計）人: 張雄偉;方正;曹鐵勇;鄭云飛;孫蒙;王楊;楊吉斌;趙斐
• 申請（專利權(quán)）人: 中國人民解放軍陸軍工程大學(xué)
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 南京縱橫知識產(chǎn)權(quán)代理有限公司 32224
• 代理人: 董建林

本發(fā)明公開了圖數(shù)據(jù)處理領(lǐng)域的一種雙速時空圖卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)及數(shù)據(jù)處理方法，其包括：時空圖特征編碼模塊，包括高速時空圖特征編碼模塊和低速時空圖特征編碼模塊，分別用于接收高、低速時空圖數(shù)據(jù)并進(jìn)行編碼，并將編碼后得到的輸出張量輸出至?xí)r空圖卷積模塊；時空圖卷積模塊，包括高速時空圖卷積模塊和低速時空圖卷積模塊，分別用于對高、低速時空圖數(shù)據(jù)的輸出張量進(jìn)行圖卷積運(yùn)算，并將運(yùn)算得到的輸出特征張量輸出至融合模塊。本發(fā)明可用于基于時空圖數(shù)據(jù)相關(guān)的任務(wù)中，與現(xiàn)有技術(shù)相比，本發(fā)明能有效提取時空圖中的長時和短時信息，另外，不同路中節(jié)點的不同連接關(guān)系可使模型學(xué)習(xí)到更有辨別力的特征，從而獲得更好的圖節(jié)點或圖分類性能。

技術(shù)領(lǐng)域

本發(fā)明涉及一種雙速時空圖卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)及數(shù)據(jù)處理方法，屬于圖數(shù)據(jù)處理技術(shù)領(lǐng)域。

背景技術(shù)

卷積神經(jīng)網(wǎng)絡(luò)近年來在圖像、視頻、自然語言以及語音領(lǐng)域方面表現(xiàn)優(yōu)異，然而，大部分卷積神經(jīng)網(wǎng)絡(luò)只能處理歐氏空間數(shù)據(jù)(如圖像、文本和語音)，這些領(lǐng)域的數(shù)據(jù)具有平移不變性。平移不變性使得我們可以在輸入數(shù)據(jù)空間定義全局共享的卷積核，從而定義卷積神經(jīng)網(wǎng)絡(luò)。圖數(shù)據(jù)作為一種非歐式空間的數(shù)據(jù)，傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)對其處理的效果較差，因此，圖卷積神經(jīng)網(wǎng)絡(luò)被提出并成為對圖數(shù)據(jù)建模的主要模型。

圖數(shù)據(jù)建模所針對的應(yīng)用場景非常廣泛，這也使得圖數(shù)據(jù)建模所處理的任務(wù)多樣。下游任務(wù)可分為節(jié)點級別的任務(wù)和圖級別的任務(wù)，節(jié)點級別的任務(wù)包括節(jié)點分類，鏈接預(yù)測等，如引文網(wǎng)絡(luò)中的文章分類，推薦系統(tǒng)中用戶對商品的偏好推斷。圖級別的任務(wù)包括圖生成，圖分類等，如藥物網(wǎng)絡(luò)生成，蛋白質(zhì)網(wǎng)絡(luò)中的蛋白質(zhì)分類、骨架動作分類等。

圖卷積神經(jīng)網(wǎng)絡(luò)的構(gòu)建所面臨的挑戰(zhàn)主要來源于以下幾個方面：

(1)圖數(shù)據(jù)是非歐式數(shù)據(jù)，傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)中的卷積和池化，依賴于平移不變性，如何針對圖數(shù)據(jù)設(shè)計卷積和池化是設(shè)計的難點；

(2)圖數(shù)據(jù)的多樣性，實際生活中的多種應(yīng)用都可以用圖數(shù)據(jù)自然的表示，這使得圖數(shù)據(jù)具有多樣的特性，如社交網(wǎng)絡(luò)中用戶的有向連接，引文網(wǎng)絡(luò)中作者和引文的異質(zhì)連接等，針對不同的圖，需要設(shè)計不同的圖卷積神經(jīng)網(wǎng)絡(luò)以更好地建模圖數(shù)據(jù)；

(3)圖數(shù)據(jù)的大規(guī)模性，在大數(shù)據(jù)時代，實際應(yīng)用中的圖可能規(guī)模極大，含有百萬甚至千萬級別的節(jié)點，如推薦系統(tǒng)中的用戶商品網(wǎng)絡(luò)，社交網(wǎng)絡(luò)中的用戶網(wǎng)絡(luò)，如何在時間和空間可接受范圍內(nèi)在大規(guī)模圖上構(gòu)建圖卷積神經(jīng)網(wǎng)絡(luò)也是非常大的挑戰(zhàn)。

發(fā)明內(nèi)容

本發(fā)明的目的在于克服現(xiàn)有技術(shù)中的不足，提供一種雙速時空圖卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)，用于基于時空圖數(shù)據(jù)相關(guān)的任務(wù)中，能有效提取時空圖中的長時和短時信息，且不同路中節(jié)點的不同連接關(guān)系可使模型學(xué)習(xí)到更有辨別力的特征，從而獲得更好的圖節(jié)點或圖分類性能。

為達(dá)到上述目的，本發(fā)明是采用下述技術(shù)方案實現(xiàn)的：

第一方面，本發(fā)明提供了一種雙速時空圖卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)，包括：

時空圖特征編碼模塊，包括高速時空圖特征編碼模塊和低速時空圖特征編碼模塊，分別用于接收高、低速時空圖數(shù)據(jù)并進(jìn)行編碼，并將編碼后得到的輸出張量輸出至?xí)r空圖卷積模塊；

時空圖卷積模塊，包括高速時空圖卷積模塊和低速時空圖卷積模塊，分別用于對高、低速時空圖數(shù)據(jù)的輸出張量進(jìn)行圖卷積運(yùn)算，并將運(yùn)算得到的輸出特征張量輸出至融合模塊；

融合模塊，用于對高、低速時空圖數(shù)據(jù)的輸出特征張量進(jìn)行融合運(yùn)算并輸出結(jié)果。

優(yōu)選的，所述時空圖特征編碼模塊包括：

圖節(jié)點特征編碼器，用于對時空圖數(shù)據(jù)中的圖節(jié)點特征張量進(jìn)行編碼；

圖節(jié)點時空序號編碼器，包含空間序號編碼器和時間序號編碼器，二者分別用于對時空圖數(shù)據(jù)的圖節(jié)點空間序號張量和圖節(jié)點時間序號張量進(jìn)行編碼。