[發明專利]一種基于CPU-GPU的負載均衡方法及設備

有效

• 申請號: 201811064037.5
• 申請日: 2018-09-12
• 公開（公告）號: CN109213601B
• 公開（公告）日: 2021-01-01
• 發明（設計）人: 翁楚良;孫婷婷;黃皓;王嘉倫
• 申請（專利權）人: 華東師范大學
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06T1/20
• 代理公司: 上海百一領御專利代理事務所(普通合伙) 31243
• 代理人: 王奎宇;甘章乖

本申請的目的是提供一種基于CPU?GPU的負載均衡方法及設備，本申請通過在CPU?GPU異構數據庫系統上構建流水線查詢執行模型，使CPU?GPU異構數據分析系統能夠支持大數據場景下的查詢分析；確定待執行的流水線的總數量；啟動所述流水線查詢執行模型將所述總數量對應的所述流水線分配至所述CPU和所述GPU上，并根據確定的分別在所述CPU和所述GPU上單條所述流水線的執行時長，計算所有的負載分配策略分別對應的系統執行時長；最后將所有的所述系統執行時長中的最小值對應的負載分配策略確定為最佳CPU?GPU分配策略，基于CPU?GPU異構數據分析系統的負載均衡策略能夠合理分配流水線負載至不同處理器，充分利用處理器計算資源，不僅提高系統性能，還能使系統達到總性能最佳。

技術領域

本申請涉及計算機領域，尤其涉及一種基于CPU-GPU的負載均衡方法及設備。

背景技術

通用圖形處理單元(Graphics Processing Unit，GPU)在矩陣計算、機器學習等多個領域被廣泛應用。近年來，數據密集型應用的相關需求快速增長，促進了基于GPU的異構在線分析處理平臺的發展，由于GPU擁有多個可同時運行大量線程的計算單元，因此以GPU作為主處理器的數據分析系統的性能在大部分情況下優于傳統的CPU分析系統，其執行時間縮短了幾個數量級。

在傳統的關系型查詢分析系統中，當客戶端發送查詢請求時，系統會新建一個分析作業，對請求進行解析并轉換為邏輯查詢計劃，查詢計劃優化器會根據一定原則(例如成本最低)選擇最優的物理查詢計劃執行。物理查詢計劃是一個有向無環圖(DAG)，它包含多個操作算子，操作算子之間按照一定順序執行。

在當前的CPU-GPU異構分析系統中，GPU是查詢執行的主處理器，操作算子的執行主要分布在GPU上，而CPU主要負責數據分發和結果收集，當后續操作需要使用先前步驟輸出的中間結果時，CPU還要對中間結果做一定處理。

數據處理分析系統處理的分析需求面向大數據場景，且數據量呈指數級增長，工作負載較重；然而，由于GPU只能直接處理在其內部存儲介質中的數據，而顯存的容量有限，因此GPU無法通過單次加載就完成大數據集的處理。當輸入數據或中間結果太大無法放入GPU全局內存時，會導致分析工作的效率持續低下，甚至造成任務失敗。現有技術中通過限制查詢表的大小規避這個問題，或者把計算任務轉移至CPU作為替代策略，但這些均不是最佳的解決方案。

綜上所述，目前在CPU-GPU的異構平臺上，使用GPU為數據分析系統加速查詢分析雖有成效，但仍存在以下問題：GPU顯存容量有限，無法通過單次加載完成大數據集的處理，及CPU與GPU間的任務分配不均衡，沒有充分利用異構處理器資源。

發明內容

本申請的一個目的是提供一種基于CPU-GPU的負載均衡方法及設備，以解決現有技術中的GPU顯存容量有限，無法通過單次加載完成大數據集的處理，及CPU與GPU間的任務分配不均衡導致沒有充分利用異構處理器資源的問題。

根據本申請的一個方面，提供了一種基于CPU-GPU的負載均衡方法，該方法包括：

在CPU-GPU異構數據庫系統上構建流水線查詢執行模型；

確定待執行的流水線的總數量；

啟動所述流水線查詢執行模型，將所述總數量對應的所述流水線分配至所述CPU和所述GPU上，并根據確定的分別在所述CPU和所述GPU上單條所述流水線的執行時長，計算所有的負載分配策略分別對應的系統執行時長；

將所有的所述系統執行時長中的最小值對應的負載分配策略確定為最佳CPU-GPU分配策略。

進一步地，上述方法中，所述確定待執行的流水線的總數量，包括：

獲取查詢語句，其中，所述查詢語句包括待查詢數據；