[發明專利]自適應的面向大圖的統一內存管理方法及系統

有效

• 申請號: 202011244031.3
• 申請日: 2020-11-10
• 公開（公告）號: CN112346869B
• 公開（公告）日: 2021-07-13
• 發明（設計）人: 李超;王鵬宇;邵傳明;王靖;郭進陽;朱浩瑾;過敏意
• 申請（專利權）人: 上海交通大學
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06T1/20
• 代理公司: 上海交達專利事務所 31201
• 代理人: 王毓理;王錫麟

一種自適應的面向大圖的統一內存管理方法，對圖計算應用中的不同類型的圖數據按照優先級順序，依次通過GPU內存判斷檢查當前GPU內存是否已滿、通過數據超出判斷當前的圖數據的大小是否超出GPU的可用內存容量再進行統一內存管理策略配置。本發明針對圖數據的特點采用不同的圖算法，結合GPU可用內存的大小，能夠顯著提升統一內存架構下處理超過顯存容量的大圖的性能，包括提高GPU帶寬利用率、減少缺頁的次數和處理缺頁的開銷，加快圖計算程序的運行時間。

技術領域

本發明涉及的是一種圖形處理領域的技術，具體是一種在統一內存架構下自適應地對尺寸在超出顯存容量的大圖數據的讀取策略進行內存動態配置的方法及系統。

背景技術

統一內存(Unified Memory)是指：在現有的內存管理方式上增加了一個統一的內存空間，使得程序可以使用一個指針直接訪問中央處理器(CPU)的內存或圖形處理器(GPU)的顯存中存儲的數據。通過該技術使得圖形處理器增加可用的地址空間，使得GPU可以處理超過顯存容量的圖數據的技術。但直接使用該技術往往會帶來顯著的性能損失。

發明內容

本發明針對現有技術的上述不足，提出一種自適應的、面向大圖的統一內存管理方法及系統，針對圖數據的特點采用不同的圖算法，結合GPU可用內存的大小，能夠顯著提升統一內存架構下處理超過顯存容量的大圖的性能，包括提高GPU帶寬利用率、減少缺頁的次數和處理缺頁的開銷，加快圖計算程序的運行時間。

本發明是通過以下技術方案實現的：

本發明涉及一種自適應的面向大圖的統一內存管理方法，對圖計算應用中的不同類型的圖數據按照優先級順序，依次檢查當前GPU內存是否已滿、判斷當前的圖數據的大小是否超出GPU的可用內存容量，再進行統一內存管理的策略配置。

所述的不同類型的圖數據包括：頂點偏移量(VertexOffset)、頂點屬性標簽(VertexProperty)、邊(Edge)以及待處理頂點前線(Frontier)，其中：VertexOffset、VertexProperty、Edge為壓縮稀疏行格式(CSR)的三個數組。

所述的優先級順序是指：圖數據結構在圖算法執行中按照被訪問的次數由高到低的順序，具體為：頂點性質、頂點偏移、前線、邊。

所述的圖算法可以被分為遍歷型算法或計算型算法，包括但不限于單源最短路徑算法(SSSP)、廣度優先搜索算法(BFS)、網頁排名算法(PageRank，PR)、連通分量算法(Connected Component，CC)。

所述的GPU內存判斷調用cudaMemGetInfo檢查當前GPU內存的剩余容量。數據超出判斷比較數據量的大小是否超過GPU可用內存的大小。

所述的統一內存管理策略配置采用但不限于通過調用cudaMemPrefetchAsync和cudaMemAdvise對當前圖數據的管理策略進行設置，其中：cudaMemPrefetchAsync能夠預先移動部分數據到GPU顯存中；cudaMemAdvise能夠為指定的數據設定數據使用提示(MemoryUsage Hint，以下簡稱為提示)以幫助GPU驅動程序采用適當的方式控制數據移動，提高最終的性能，可選的數據使用提示包括AccessedBy和ReadMostly。這些指令針對的是NVIDIA各系列的GPU，具體為：

①針對頂點性質數據，當GPU內存已滿時，設置VertexProperty的提示為AccessedBy；否則，即GPU內存未滿且當VertexProperty未超出GPU的可用內存容量時，設置VertexProperty的預讀量為VertexProperty的大?。划擵ertexProperty超出GPU的可用內存容量時，設置VertexProperty的提示為AccessedBy，并設置VertexProperty的預讀量為：預讀率×GPU可用內存容量，單位為字節。