[發(fā)明專利]一種基于Transformer的動態(tài)異構(gòu)網(wǎng)絡(luò)鏈路預(yù)測方法

在審

• 申請?zhí)枺?/td>: 202210369788.8
• 申請日: 2022-04-09
• 公開（公告）號: CN114648172A
• 公開（公告）日: 2022-06-21
• 發(fā)明（設(shè)計）人: 竹翠;阮貝貝;朱文軍
• 申請（專利權(quán)）人: 北京工業(yè)大學(xué)
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06N3/04;G06N3/08
• 代理公司: 北京思海天達知識產(chǎn)權(quán)代理有限公司 11203
• 代理人: 王兆波

1.一種基于Transformer的動態(tài)異構(gòu)網(wǎng)絡(luò)鏈路預(yù)測方法，其特征在于，包括：

步驟1：以節(jié)點和鏈接集合作為輸入，根據(jù)定義的動態(tài)異構(gòu)網(wǎng)絡(luò)構(gòu)建成一個動態(tài)異構(gòu)網(wǎng)絡(luò)；

步驟2：以構(gòu)建好的動態(tài)異構(gòu)網(wǎng)絡(luò)作為輸入，通過信息網(wǎng)絡(luò)的異構(gòu)表示方法，得到節(jié)點在不同鏈接類型下的嵌入向量；

步驟3：以構(gòu)建好的動態(tài)異構(gòu)網(wǎng)絡(luò)作為輸入，通過信息網(wǎng)絡(luò)的動態(tài)編碼方法，得到具有動態(tài)特征的節(jié)點嵌入向量；

步驟4：將具有動態(tài)特征的節(jié)點嵌入向量分別與不同鏈接類型下的節(jié)點嵌入向量整合，得到節(jié)點在不同鏈接類型下的最終嵌入向量，通過最小化交叉熵損失函數(shù)，得到預(yù)測模型；

步驟5：通過預(yù)測模型獲取測試時期網(wǎng)絡(luò)中節(jié)點對在某種鏈接類型下的最終嵌入向量，計算相似性并預(yù)測在該鏈接類型下的鏈路。

2.根據(jù)權(quán)利要求1所述的一種基于Transformer的動態(tài)異構(gòu)網(wǎng)絡(luò)鏈路預(yù)測方法構(gòu)建動態(tài)異構(gòu)網(wǎng)絡(luò)，其特征在于，對不同類型的節(jié)點和鏈接用不同的編號代替；此外，按照鏈接發(fā)生時間順序?qū)π畔⑦M行排序。

3.根據(jù)權(quán)利要求1所述的一種基于Transformer的動態(tài)異構(gòu)網(wǎng)絡(luò)鏈路預(yù)測方法，其特征在于，信息網(wǎng)絡(luò)的異構(gòu)表示方法按照鏈接類型分成不同的視圖，每個視圖只包含一種類型的鏈接；各個視圖中，基于Transformer進行鄰居特征聚合；各個視圖基于圖注意力網(wǎng)絡(luò)互相融合特征，以得到節(jié)點在不同鏈接類型下的特征向量。

4.根據(jù)權(quán)利要求3所述的一種基于Transformer的動態(tài)異構(gòu)網(wǎng)絡(luò)鏈路預(yù)測方法，其特征在于，基于Transformer的鄰居聚合，按照鏈接時間順序采樣鄰居，并以節(jié)點及其鄰居節(jié)點特征向量作為輸入；經(jīng)過多頭注意力網(wǎng)絡(luò)、前饋神經(jīng)網(wǎng)絡(luò)和殘差機制得到具有鄰居特征的節(jié)點嵌入向量。

5.根據(jù)權(quán)利要求1所述的一種基于Transformer的動態(tài)異構(gòu)網(wǎng)絡(luò)鏈路預(yù)測方法，其特征在于，信息網(wǎng)絡(luò)的動態(tài)編碼方法按照鏈路時間順序采樣鄰居，通過時間編碼函數(shù)得到動態(tài)特征向量，并融入節(jié)點特征向量中；基于圖注意力網(wǎng)絡(luò)學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu)，最終得到具有動態(tài)特征的節(jié)點嵌入向量。

6.根據(jù)權(quán)利要求1所述的一種基于Transformer的動態(tài)異構(gòu)網(wǎng)絡(luò)鏈路預(yù)測方法其特征在于，鏈路預(yù)測，將具有動態(tài)特征的節(jié)點嵌入向量分別與不同鏈接類型下的節(jié)點嵌入向量整合，得到節(jié)點在不同鏈接類型下的最終嵌入向量；以某種鏈接類型下的最終節(jié)點嵌入向量作為輸入，計算節(jié)點間相似性以預(yù)測在該鏈接類型下的鏈路。