[發(fā)明專利]一種基于雙層注意力機(jī)制的異質(zhì)圖分類方法

在審

• 申請?zhí)枺?/td>: 202011436576.4
• 申請日: 2020-12-11
• 公開（公告）號: CN112381179A
• 公開（公告）日: 2021-02-19
• 發(fā)明（設(shè)計）人: 王靜;郭春生;應(yīng)娜;陳華華
• 申請（專利權(quán)）人: 杭州電子科技大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 浙江千克知識產(chǎn)權(quán)代理有限公司 33246
• 代理人: 周希良

1.一種基于雙層注意力機(jī)制的異質(zhì)圖分類方法，其特征在于，包括步驟：

S1.對不同類型節(jié)點的特征向量進(jìn)行映射操作，得到目標(biāo)節(jié)點和與目標(biāo)節(jié)點相對應(yīng)的鄰域節(jié)點在同一實體空間的特征向量；

S2.根據(jù)得到的特征向量，并基于雙層注意力中的類型級注意力和節(jié)點級注意力，從類型級注意力到節(jié)點級注意力自頂向下地學(xué)習(xí)不同類型鄰居和不同相鄰節(jié)點間的權(quán)重；

S3.根據(jù)得到的權(quán)重構(gòu)建異質(zhì)圖，得到分類模型；

S4.將測試數(shù)據(jù)輸入至得到的分類模型中，輸出最終分類結(jié)果。

2.根據(jù)權(quán)利要求1所述的一種基于雙層注意力機(jī)制的異質(zhì)圖分類方法，其特征在于，所述步驟S1中對不同類型節(jié)點的特征向量進(jìn)行映射操作，表示為：

h′_i＝M_φ(i)h_i

其中h_i∈R^F和h′_i∈R^F′分別表示節(jié)點i的原始特征向量和映射后的特征向量；M_φ(i)∈R^F′×F表示類型轉(zhuǎn)換矩陣；F表示原始節(jié)點的特征維數(shù)；F′表示映射后節(jié)點特征的維數(shù)。

3.根據(jù)權(quán)利要求2所述的一種基于雙層注意力機(jī)制的異質(zhì)圖分類方法，其特征在于，所述步驟S2中從類型級注意力到節(jié)點級注意力自頂向下地學(xué)習(xí)不同類型鄰居和不同相鄰節(jié)點間的權(quán)重包括類型級注意力學(xué)習(xí)不同類型鄰居的權(quán)重，表示為：

a_τ＝σ(v_τ^T[h′_i||h′_τ])

其中，h′_τ∈R^F′表示鄰域節(jié)點特征向量h′_j∈R^F′的和，j∈N_i^τ表示類型為τ的鄰域節(jié)點；且是的子矩陣；表示歸一化后的鄰接矩陣，A′＝A+I表示在鄰接矩陣A上添加了自連接；σ表示激活函數(shù)；||表示級聯(lián)操作；v_τ∈R^2F′表示針對關(guān)系類型為τ的注意力向量。

4.根據(jù)權(quán)利要求3所述的一種基于雙層注意力機(jī)制的異質(zhì)圖分類方法，其特征在于，所述類型級注意力學(xué)習(xí)不同類型鄰居的權(quán)重中還包括采用softmax函數(shù)對a_τ進(jìn)行歸一化處理，得到最終的類型級注意力權(quán)重a_τ，表示為：

其中，T表示所有節(jié)點類型的集合；a_τ′表示類型為τ′的節(jié)點的類型級注意力權(quán)重；τ′表示某種節(jié)點類型。

5.根據(jù)權(quán)利要求4所述的一種基于雙層注意力機(jī)制的異質(zhì)圖分類方法，其特征在于，所述步驟S2中從類型級注意力到節(jié)點級注意力自頂向下地學(xué)習(xí)不同類型鄰居和不同相鄰節(jié)點間的權(quán)重包括節(jié)點級注意力用來學(xué)習(xí)不同相鄰節(jié)點間的權(quán)重，表示為：

b_ij＝σ(μ^T·α_τ[h′_i||h′_j])

其中，h′_τ∈R^F′表示節(jié)點i的特征向量h′_i∈R^F′和鄰域節(jié)點j的特征向量h′_j∈R^F′；α_τ表示類型級注意力權(quán)重；b_ij表示鄰居節(jié)點j對節(jié)點i的重要性；μ∈R^2F′表示相同節(jié)點類型τ共享的節(jié)點級注意力向量。

6.根據(jù)權(quán)利要求5所述的一種基于雙層注意力機(jī)制的異質(zhì)圖分類方法，其特征在于，所述節(jié)點級注意力用來學(xué)習(xí)不同相鄰節(jié)點間的權(quán)重中還包括通過softmax函數(shù)對b_ij進(jìn)行歸一化處理，得到最終的節(jié)點級注意力權(quán)重，表示為：

其中，β_ij表示節(jié)點級注意力權(quán)重。