[發明專利]一種基于雙層注意力機制的異質圖分類方法

在審

• 申請號: 202011436576.4
• 申請日: 2020-12-11
• 公開（公告）號: CN112381179A
• 公開（公告）日: 2021-02-19
• 發明（設計）人: 王靜;郭春生;應娜;陳華華
• 申請（專利權）人: 杭州電子科技大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 浙江千克知識產權代理有限公司 33246
• 代理人: 周希良

本發明公開了一種基于雙層注意力機制的異質圖分類方法，包括步驟：S11.對不同類型節點的特征向量進行映射操作，得到目標節點和與目標節點相對應的鄰域節點在同一實體空間的特征向量；S12.根據得到的特征向量，并基于雙層注意力中的類型級注意力和節點級注意力，從類型級注意力到節點級注意力自頂向下地學習不同類型鄰居和不同相鄰節點間的權重；S13.根據得到的權重構建異質圖，得到分類模型；S14.將測試數據輸入至得到的分類模型中，輸出最終分類結果。

技術領域

本發明涉及目標客戶分類技術領域，尤其涉及一種基于雙層注意力機制的異質圖分類方法。

背景技術

在商業中，企業會采取一些營銷手段來推廣自己的產品，由于不同類型產品面向的客戶不同，通常會針對不同類型產品的目標客戶進行分類，根據客戶所屬類別制定相應的營銷方案，有利于挖掘潛在的客戶群，實現精準營銷，提高收益。傳統的方法中，要實現對目標客戶的分類，需要耗費大量的時間和人力。隨著互聯網技術的不斷發展，可以將深度學習技術應用到上述商業場景中，大大降低了成本。

現實世界的數據大多以圖的形式存在，如社交網絡、引文網絡等，這些圖網絡中通常包含多種實體類型，這些實體通過不同的實體關系互相關聯形成了錯綜復雜的異質信息網絡，也叫異質圖，可用于許多特征描述問題的建模和分析方法中。可以將上述商業場景建模為一個異質圖，圖中的節點有產品和客戶，產品和產品之間的連接邊表示產品屬于同一類型，產品和客戶之間的連接邊表示產品面向的目標客戶，通過異質圖嵌入技術對該類異質圖進行特征提取，可以實現對目標客戶的分類。

異質圖嵌入技術已經從不同角度進行了廣泛的研究，并且大多數異質圖嵌入技術通常依賴于元路徑結構，通過元路徑抽取出同質子圖，再使用同質圖的表示學習算法。元路徑是連接兩個對象復合關系的節點序列，是一種廣泛使用的語義捕獲的結構。流行的異質圖嵌入方法有metapath2vec、HERec、HAN和HetSANN。metapath2vec基于元路徑進行隨機游走，通過skip-gram模型學習節點的潛在表示；受metapath2vec啟發，HERec使用了一些對稱的元路徑，通過一種類型限制策略過濾節點序列來捕獲異質圖的語義信息；HAN將圖神經網絡應用于異質圖中，利用語義級注意力和節點級注意力來同時學習元路徑與節點鄰居的重要性。上述這些框架僅適用于具有元路徑的異質圖，由于元路徑需要人工制定，并且異質圖中的語義信息很難通過多個元路徑窮盡，在尋找目標節點的鄰域節點時會忽略一些鏈接邊類型或節點屬性，不可避免地帶來信息損失。因此如何在不損失異質信息的前提下對異質圖進行表示學習具有一定的挑戰性。HetSANN直接利用異質圖的結構信息進行表示學習，拋棄了傳統方法中的元路徑，但它在鄰域聚合過程中只考慮了不同節點影響力的差異性，未考慮節點的類型信息。

異質圖中節點和連接的復雜性和異質性使得分類方法變得困難，無法直接使用同質圖的分類方法查找圖中的目標節點并進行分類，否則會造成圖中一些信息的損失。并且傳統方法中的元路徑也不可避免的帶來信息損失。注意力機制能夠處理可變大小的數據，使模型更關注數據中重要的部分，并且已經在一些深度神經網絡框架中證明了該機制的有效性。因此，不使用元路徑，如何同時考慮和分析不同類型的節點和連接，利用注意力機制建立更準確的異質圖是研究的難點。

發明內容

本發明的目的是針對現有技術的缺陷，提供了一種基于雙層注意力機制的異質圖分類方法。

為了實現以上目的，本發明采用以下技術方案：

一種基于雙層注意力機制的異質圖分類方法，包括步驟：

S1.對不同類型節點的特征向量進行映射操作，得到目標節點和與目標節點相對應的鄰域節點在同一實體空間的特征向量；

S2.根據得到的特征向量，并基于雙層注意力中的類型級注意力和節點級注意力，從類型級注意力到節點級注意力自頂向下地學習不同類型鄰居和不同相鄰節點間的權重；

S3.根據得到的權重構建異質圖，得到分類模型；