[發(fā)明專利]一種基于網(wǎng)絡(luò)鏈接和節(jié)點(diǎn)屬性信息的節(jié)點(diǎn)嵌入方法

在審

• 申請?zhí)枺?/td>: 202011319384.5
• 申請日: 2020-11-23
• 公開（公告）號: CN112286996A
• 公開（公告）日: 2021-01-29
• 發(fā)明（設(shè)計(jì)）人: 單虹毓;杜樸風(fēng);焦鵬飛;金弟
• 申請（專利權(quán)）人: 天津大學(xué)
• 主分類號: G06F16/2458
• 分類號: G06F16/2458;G06N3/08
• 代理公司: 天津市北洋有限責(zé)任專利代理事務(wù)所 12201
• 代理人: 張建中

1.一種基于網(wǎng)絡(luò)鏈接和節(jié)點(diǎn)屬性信息的節(jié)點(diǎn)嵌入方法，其特征在于，該方法為：構(gòu)建由圖自編碼器、先驗(yàn)生成模型和網(wǎng)絡(luò)導(dǎo)向約束模塊構(gòu)成的神經(jīng)網(wǎng)絡(luò)模型；圖自編碼器用于將包括網(wǎng)絡(luò)鏈接和節(jié)點(diǎn)屬性信息的網(wǎng)絡(luò)數(shù)據(jù)映射到隱變量空間中，對應(yīng)生成隱變量的空間分布函數(shù)；先驗(yàn)生成模型，其用于將隱變量的空間分布通過歸一化流模型映射到高斯分布并生成新變量；其計(jì)算隱變量分布函數(shù)與新變量分布函數(shù)之間的kl散度，并基于kl散度，優(yōu)化和更新隱變量及新變量的空間分布，得到對應(yīng)隱變量的多個(gè)空間分布函數(shù)，其將得到的多個(gè)空間分布函數(shù)組合成一個(gè)組合分布函數(shù)；網(wǎng)絡(luò)導(dǎo)向約束模塊用于通過拉普拉斯特征映射方式對組合分布函數(shù)進(jìn)行約束；采集包括已知網(wǎng)絡(luò)鏈接和節(jié)點(diǎn)屬性信息的網(wǎng)絡(luò)數(shù)據(jù)，制成樣本集，從樣本集中抽取網(wǎng)絡(luò)數(shù)據(jù)樣本和相應(yīng)的鄰接矩陣，對神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練；采用訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)模型對未知網(wǎng)絡(luò)鏈接和節(jié)點(diǎn)屬性信息的網(wǎng)絡(luò)數(shù)據(jù)進(jìn)行處理，得到對應(yīng)該網(wǎng)絡(luò)數(shù)據(jù)的節(jié)點(diǎn)特征參數(shù)，將節(jié)點(diǎn)特征參數(shù)與該網(wǎng)絡(luò)數(shù)據(jù)相結(jié)合，形成帶有節(jié)點(diǎn)特征參數(shù)的網(wǎng)絡(luò)數(shù)據(jù)。

2.根據(jù)權(quán)利要求1所述的基于網(wǎng)絡(luò)鏈接和節(jié)點(diǎn)屬性信息的節(jié)點(diǎn)嵌入方法，其特征在于，該方法還包括：將所得節(jié)點(diǎn)放入分類器中進(jìn)行訓(xùn)練，并將訓(xùn)練好的節(jié)點(diǎn)嵌入網(wǎng)絡(luò)數(shù)據(jù)中進(jìn)行可視化表示。

3.根據(jù)權(quán)利要求1所述的基于網(wǎng)絡(luò)鏈接和節(jié)點(diǎn)屬性信息的節(jié)點(diǎn)嵌入方法，其特征在于，采用Adam優(yōu)化器來最小化神經(jīng)網(wǎng)絡(luò)模型的損失函數(shù)，并優(yōu)化神經(jīng)網(wǎng)絡(luò)模型的參數(shù)。

4.根據(jù)權(quán)利要求3所述的基于網(wǎng)絡(luò)鏈接和節(jié)點(diǎn)屬性信息的節(jié)點(diǎn)嵌入方法，其特征在于，對神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練時(shí)，隨機(jī)初始化參數(shù)，利用Adam優(yōu)化器優(yōu)化所得的參數(shù)更新規(guī)則建立模型訓(xùn)練過程，將網(wǎng)絡(luò)數(shù)據(jù)樣本放入神經(jīng)網(wǎng)絡(luò)模型中訓(xùn)練，不斷迭代，直至參數(shù)更新收斂。

5.根據(jù)權(quán)利要求1所述的基于網(wǎng)絡(luò)鏈接和節(jié)點(diǎn)屬性信息的節(jié)點(diǎn)嵌入方法，其特征在于，該方法包括如下步驟：

步驟一，構(gòu)建由圖自編碼器、先驗(yàn)生成模型和網(wǎng)絡(luò)導(dǎo)向約束模塊構(gòu)成的神經(jīng)網(wǎng)絡(luò)模型，并詳細(xì)刻畫神經(jīng)網(wǎng)絡(luò)模型中每個(gè)變量的含義；

步驟二，根據(jù)神經(jīng)網(wǎng)絡(luò)模型中各個(gè)模塊的關(guān)系，刻畫生成神經(jīng)網(wǎng)絡(luò)模型的過程，得到神經(jīng)網(wǎng)絡(luò)模型的KL散度，KL散度計(jì)算公式如下：

KL(p||q)＝[p(u)log p(u)-p(u)log q(u)]；

式中,u為歸一化流模型中間層的變量；q(u)為中間變量u的分布；p(u)為中間變量u的標(biāo)準(zhǔn)高斯分布；

步驟三，由圖自編碼器的重構(gòu)誤差損失，以及先驗(yàn)生成模型和網(wǎng)絡(luò)導(dǎo)向約束模塊產(chǎn)生的KL散度損失和先驗(yàn)網(wǎng)絡(luò)正則化損失，得到神經(jīng)網(wǎng)絡(luò)模型最終損失函數(shù)：

上式中，L為最終損失；L_rect為圖自編碼器的重構(gòu)誤差損失；L_kl為KL散度損失，KL散度損失是變分推斷產(chǎn)生的損失；L_la為生成的先驗(yàn)網(wǎng)絡(luò)正則化損失，先驗(yàn)網(wǎng)絡(luò)正則化損失是拉普拉斯特征映射產(chǎn)生的損失；α為超參數(shù)；

(1)L_rect的計(jì)算公式如下：

其中l(wèi)為交叉熵?fù)p失；為解碼器產(chǎn)生的鄰接矩陣的第i，j位置的值；a_ij為輸入的鄰接矩陣的第i，j位置的值；n表示所有的節(jié)點(diǎn)數(shù)量，i和j分別表示第i和第j個(gè)節(jié)點(diǎn)；

(2)L_kl的計(jì)算公式如下：

式中,det為雅可比行列式；z為隱變量；u為歸一化流模型中間層的變量；q(u)為中間變量u的分布；p(u)為中間變量u的標(biāo)準(zhǔn)高斯分布；KL為散度；

(3)L_la的計(jì)算公式如下：

其中a_ij為輸入的鄰接矩陣的第i，j位置的值，表示歸一化流模型生成的數(shù)據(jù)中的第i個(gè)向量，表示歸一化流模型生成的數(shù)據(jù)中的第j個(gè)向量，n表示所有的節(jié)點(diǎn)數(shù)量，i和j分別表示第i和第j個(gè)節(jié)點(diǎn)；

步驟四，使用Adam優(yōu)化器來最小化損失函數(shù)并優(yōu)化神經(jīng)網(wǎng)絡(luò)模型的參數(shù)；

步驟五，采集網(wǎng)絡(luò)數(shù)據(jù)并處理為數(shù)據(jù)集；

步驟六，隨機(jī)初始化參數(shù)，利用步驟四所得的參數(shù)更新規(guī)則建立神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練過程，從數(shù)據(jù)集中抽取網(wǎng)絡(luò)數(shù)據(jù)和鄰接矩陣；導(dǎo)入神經(jīng)網(wǎng)絡(luò)模型中訓(xùn)練，不斷迭代，直至參數(shù)更新收斂；

步驟七，將所獲得的參數(shù)結(jié)果記錄到相關(guān)網(wǎng)絡(luò)數(shù)據(jù)中，且用所得的節(jié)點(diǎn)表示網(wǎng)絡(luò)數(shù)據(jù)，將所得節(jié)點(diǎn)表示放入分類器中進(jìn)行訓(xùn)練，并將訓(xùn)練好的節(jié)點(diǎn)表示進(jìn)行可視化表示。