[發明專利]一種利用圖神經網絡和膠囊網絡的鏈路預測系統

在審

• 申請號: 202110088549.0
• 申請日: 2021-01-22
• 公開（公告）號: CN112862070A
• 公開（公告）日: 2021-05-28
• 發明（設計）人: 劉小洋;葉舒;李祥
• 申請（專利權）人: 重慶理工大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06N20/00
• 代理公司: 重慶天成卓越專利代理事務所(普通合伙) 50240
• 代理人: 王宏松

1.一種利用圖神經網絡和膠囊網絡的鏈路預測系統，其特征在于，包括數據生成模塊、數據轉換模塊、數據分類鏈接模塊和數據展現模塊；

數據生成模塊的數據生成輸出端與數據轉換模塊的數據轉換輸入端相連，數據轉換模塊的數據轉換輸出端與數據分類鏈接模塊的分類數據輸入端相連，數據分類鏈接模塊的分類數據輸出端與數據展現模塊的數據展現輸入端相連；

數據生成模塊用于將采集的數據使用GNN對網絡進行表示學習，生成相應的節點特征；

數據轉換模塊用于通過轉換塊，將學習到節點特征轉換成節點對特征圖，作為膠囊網絡的輸入；

數據分類鏈接模塊用于借助膠囊網絡對節點對特征圖進行特征表示學習，捕獲節點對的屬性以用于圖分類；

數據展現模塊用于展現數據。

2.根據權利要求1所述的利用圖神經網絡和膠囊網絡的鏈路預測系統，其特征在于，所述數據生成模塊包括：

利用GNN提取節點的基本特征，若節點沒有特征，則用單位矩陣作為節點屬性。

3.根據權利要求2所述的利用圖神經網絡和膠囊網絡的鏈路預測系統，其特征在于，其利用GCN提取節點的基本特征的方法為：

其中，Z^l+1為l+1層的節點特征，Z^l為l層的節點特征；A為鄰接矩陣；為具有自環的無向圖的鄰接矩陣，為增加自環的度矩陣，(·)^-1/2表示逆矩陣的算術平方根，W^l為可訓練的權重矩陣，σ(·)為激活函數，GCN(·)為圖卷積運算。

4.根據權利要求3所述的利用圖神經網絡和膠囊網絡的鏈路預測系統，其特征在于，所述GCN選用2層GCN結構，并且在最后一層中不使用激活函數進行處理。

5.根據權利要求1所述的利用圖神經網絡和膠囊網絡的鏈路預測系統，其特征在于，所述數據轉換模塊包括：

提取所需節點對的特征表示進行Conversion運算生成相應的節點對特征圖：

其中，分別為節點x、y的節點特征嵌入向量，表示實數域上F′×1矩陣即實數域上的F′維列向量，表示轉置，F′為第l+1層節點特征數量。

6.根據權利要求1所述的利用圖神經網絡和膠囊網絡的鏈路預測系統，其特征在于，所述數據分類鏈接模塊包括：

將節點對特征圖h_xy通過卷積層轉換為初級膠囊的輸入h_c，即對節點對特征圖h_xy做局部特征提取：

h_c＝Conv(h_xy)＝Wh_xy+b，

其中，Conv(·)為向量卷積運算，W和b分別為卷積權重共享矩陣與偏置參數；

利用卷積膠囊層生成初級膠囊u：

其中，Convolutional capsulelayer(h_c)表示初級膠囊的輸入h_c的卷積膠囊層，num_conv代表每個初級膠囊所包含的卷積單元數量；num_primary_caps為初級膠囊中的膠囊數量；Conv^num_conv(·)表示向量卷積運算的num_conv次方；

生成類膠囊v：

使用非線性squashing函數對向量長度作歸一化處理，將范圍縮小至0～1之間：

其中，s_j和v_j分別為膠囊j的輸入與輸出向量，||·||表示范數，||·||²表示范數的平方；

對于除第一層以外的所有膠囊，膠囊s_j的總輸入是來自上一層膠囊中所有預測向量的加權總和；而由上一層膠囊的輸出u_i乘以權重矩陣W_ij產生：

其中，u_i為上一層膠囊的輸出，為上一層膠囊的預測向量，c_ij是耦合系數，膠囊i和下一層中所有膠囊的耦合系數之和為1。