[發明專利]基于注意力機制的圖分類方法及化合物毒性預測方法

有效

• 申請號: 202011637474.9
• 申請日: 2020-12-31
• 公開（公告）號: CN112733918B
• 公開（公告）日: 2023-08-29
• 發明（設計）人: 高建良;高俊
• 申請（專利權）人: 中南大學;賽爾網絡有限公司
• 主分類號: G06F18/241
• 分類號: G06F18/241;G06N3/042;G06N3/0499;G06N3/082
• 代理公司: 長沙永星專利商標事務所(普通合伙) 43001
• 代理人: 周詠;米中業

1.一種化合物毒性預測方法，具體包括如下步驟：

A.將化合物分子表示為原始圖：節點對應于原子，邊對應于原子對之間存在的化學鍵；

B.根據步驟A獲取的原始圖網絡及數據信息，初始化節點的特征嵌入、構建高階圖網絡并初始化高階圖網絡中的節點嵌入；

在具體實施時，采用如下步驟初始化節點的特征嵌入：

對于給定的圖網絡G，用V(G)表示圖G的節點集，E(G)表示圖G的邊集；節點i∈V(G)和邊(i,j)∈E(G)都具有屬性；將節點i∈V(G)的屬性編碼為u_i的嵌入特征，N(i)＝{j|(i,j)∈E(G)}表示節點i的鄰居節點，|N(i)|表示節點i的鄰居節點個數；使用節點的標簽和屬性初始化節點嵌入：對于節點i∈V(G)，通過分別連接基于節點的標簽和屬性，并生成的兩個單熱向量和來初始化嵌入u_i，其中d＝d₁+d₂，||為連接符號；

采用如下步驟構建高階圖網絡：

對于給定的整數k≥2，將給定的一階化合物分子圖網絡G中構成連通子圖的任意k個不同節點表示為C_k＝{v₁,v₂,...,v_k}；然后，將C_k表示為k階化合物分子圖網絡中的一個節點；所有C_k組成k階化合物分子圖網絡的節點集并記為V(G)^k；定義k階化合物分子圖網絡的節點C_k的鄰域為N(C_k)＝{T_k∈V(G)^k|(|C_k∩T_k|)＝k-1}，其中|C_k∩T_k|為與C_k和T_k相交的節點數；若T_k為C_k的鄰居，則有一條邊(C_k,T_k)存在于C_k和T_k之間，且令所有這些邊組成k階化合物分子圖網絡的邊集并記為E(G)^k，k階圖網絡G^k表示為(V(G)^k,E(G)^k)；從而構造一個k階化合物分子圖網絡，其中每個節點代表一個k階子結構；

采用如下步驟初始化節點嵌入：

對于k階化合物分子圖網絡中的節點C_k，采用k-1階化合物分子圖網絡的特征嵌入作為初始特征u(C_k)：其中u(C_k)表示k階化合物分子圖網絡中節點C_k的初始特征，u(C_k-1)表示C_k-1在k-1階圖網絡中的特征；對于C_k，有k-1個節點組成連通子圖的組合是C_k的子集；N為子結構的個數；k為正整數且k≥2；

C.各階化合物分子圖網絡中的節點，采用子結構交互注意力網絡SIA，捕獲吸收鄰居節點信息，捕獲吸收鄰居節點間的交互信息，并訓練得到化合物分子圖網絡中每個節點的新的特征嵌入；

具體實施時，采用如下步驟進行捕獲吸收：

設定k階化合物分子圖網絡中的每個節點C_k為一個k階子結構，并被賦予一個基本子結構侵入向量u(C_k)∈R^d，其中d表示特征維數；化合物分子相鄰子結構聚合用于融合相鄰子結構信息，中心子結構a將相鄰子結構b,c,d,e,f的信息聚集于本身；相鄰子結構聚合的迭代公式如下式所示：

式中T_k∈N(C_k)為節點C_k在k階化合物分子圖網絡中的鄰居；W₁∈R^d'×d為每個節點的共享權值矩陣，d'為每個節點的輸出維數；α(C_k,T_k)為注意系數，且計算公式為

其中f(u(C_k),u(T_k))為表示u(C_k)和u(T_k)的相容性的標量，通過單隱層前饋網絡并采用如下公式計算

a∈R^r為生成標量值的權值向量，tanh為激活函數，W₂∈R^r×2d為權值矩陣，表示u(C_k)和u(T_k)的連接，b∈R^r為偏置，r為常數且表示隱含層的維數；

采用如下步驟進行捕獲吸收：

聚合化合物分子圖中相鄰子結構的相互作用信息，中心子結構a將相鄰子結構c、d的交互信息以及b、f間的交互信息聚集于本身；迭代公式如下式：

式中u(C_k)'_ia為節點C_k的鄰居交互表示，u(T_k)為節點T_k的表示，u(S_k)為節點S_k的表示，⊙為哈瑪達積；β(T_k,S_k)為節點T_k和S_k之間的交互作用系數，且計算公式為

采用如下算式進行歸一化：

式中(M_k,Q_k)為k階化合物分子圖中的一條邊，且滿足M_k和Q_k均為C_k的鄰居，E(G)^k為k階化合物分子圖網絡的邊集；

采用如下步驟獲取新的特征嵌入：

融合鄰居節點信息和鄰居節點間的交互信息，獲得節點嵌入u(C_k)；節點嵌入u(C_k)的迭代表示式為u(C_k)'＝σ(αu(C_k)'_sa+(1-α)u(C_k)'_ia)，其中u(C_k)'_sa為鄰居聚合得到的新節點嵌入，u(C_k)'_ia為鄰居相互作用聚合得到的新節點嵌入，σ為sigmoid激活函數；

D.采用節點注意力網絡SNA將圖網絡中的節點特征嵌入融合成化合物分子圖網絡嵌入，并級聯各階圖網絡嵌入，再通過多層感知機將級聯后的圖網絡嵌入進行降維分類，從而得到最終的圖網絡分類結果；

具體實施時，采用如下步驟獲取圖網絡嵌入：

利用注意機制學習每個化合物分子圖網絡子結構a,b,c,d,e,f的權值Score(a),Score(b),...,Score(f)，然后通過學習子結構的權值將子結構嵌入融合為化合物分子圖網絡嵌入；設定S(G)為化合物分子圖網絡G中子結構的集合，S(G)∈R^N×d表示對應子結構嵌入的集合，N為子結構的個數，u_n∈R^1×d表示子結構n∈S(G)的嵌入，然后通過如下算式計算得到圖級嵌入h_G：

式中σ為激活函數且為u_n的轉置；ReLU為激活函數；W₃∈R^d×d為子結構嵌入的可學習權矩陣；

采用如下步驟獲取最終的圖網絡分類結果：

對于k階化合物分子圖網絡對應的圖網絡的嵌入將各階化合物分子圖網絡對應的化合物分子圖網絡嵌入按遞增順序級聯，得到最終的高階化合物分子圖網絡嵌入然后將生成的化合物分子圖網絡嵌入F_G輸入至多層感知機MLP層，從而得到最終的預測化合物分子圖網絡標簽

E.得到的最終的化合物分子所對應的圖的分類結果，對應于最終的化合物毒性預測結果。