[發明專利]一種基于分層優化范式的大規模圖深度學習計算框架

在審

• 申請號: 202010318058.6
• 申請日: 2020-04-21
• 公開（公告）號: CN111652346A
• 公開（公告）日: 2020-09-11
• 發明（設計）人: 王彬;洪萬福;錢智毅
• 申請（專利權）人: 廈門淵亭信息科技有限公司
• 主分類號: G06N3/02
• 分類號: G06N3/02;G06N3/08
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種基于分層優化范式的大規模圖深度學習計算框架，其特征在于，包括：基于塊的數據流轉換、數據流圖的優化、GPU上內核的傳播、多GPU的并行處理，其中：

所述基于塊的數據流轉換用于將圖形的頂點和邊數據分割成小塊，這些小塊將被裝入GPU設備內存中，并與處理塊粒度計算的操作符一起構造一個數據流圖；

所述數據流圖的優化用于生成一個調度策略；

所述GPU上內核的傳播用于高效的內核傳播操作；

所述多GPU的并行處理用于一個服務器中多個GPU的并行計算。

2.一種基于分層優化范式的大規模圖深度學習計算框架，其特征在于：所述基于塊的數據流轉換還包括將SUAU-NN模型中實現的算法轉換為塊粒度數據流圖的前端，使GPU中的大型圖上的GNN計算成為可能；SUAU-NN在GNN的每一層定義的四個前饋計算階段:Separation，UDF_Edge，Aggregation和UDF_Vertex；SUAU-NN分別為UDF_Edge和UDF_Vertex提供了兩個用戶定義函數(UDFs)，用于聲明神經網絡對邊和頂點的計算。

3.一種基于分層優化范式的大規模圖深度學習計算框架，其特征在于：所述數據流圖的優化還包括最小化主機和GPU設備內存之間的數據交換，以及最大限度地重用GPU內存中的數據塊，同時以流方式重疊數據移動和計算，并識別融合操作和刪除冗余計算的因子。

4.一種基于分層優化范式的大規模圖深度學習計算框架，其特征在于：所述GPU上內核的傳播還包括支持基于流的處理，在GPU中重疊數據移動和計算；

其還包括散點內核（Separation Kernel）和聚集內核（Aggregation Kernel）；

Separation操作符將頂點特征數據從源和目標傳遞到邊；Aggregation操作符通過用戶提供的累加函數收集目標頂點的邊特征向量，并將其縮減為每個目標頂點的單個向量。

5.一種基于分層優化范式的大規模圖深度學習計算框架，其特征在于：所述多GPU的并行處理還包括通過多級PCI-Express (PCIe)接口層次結構連接到CPU/DRAM(主機內存)，實現多GPU互連，以及使用一種基于環的流機制，通過在GPU之間直接交換數據塊來避免從主機內存中移動冗余數據。