[發明專利]一種基于CPU-GPU的負載均衡方法及設備

有效

• 申請號: 201811064037.5
• 申請日: 2018-09-12
• 公開（公告）號: CN109213601B
• 公開（公告）日: 2021-01-01
• 發明（設計）人: 翁楚良;孫婷婷;黃皓;王嘉倫
• 申請（專利權）人: 華東師范大學
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06T1/20
• 代理公司: 上海百一領御專利代理事務所(普通合伙) 31243
• 代理人: 王奎宇;甘章乖

1.一種基于CPU-GPU的負載均衡方法，其中，所述方法包括：

在CPU-GPU異構數據庫系統上構建用于對流水線進行查詢分析的模型；

確定待執行的流水線的總數量；

啟動所述用于對流水線進行查詢分析的模型，將所述總數量對應的所述流水線分配至所述CPU和所述GPU上，并根據確定的分別在所述CPU和所述GPU上單條所述流水線的執行時長，計算所有的負載分配策略分別對應的系統執行時長；

將所有的所述系統執行時長中的最小值對應的負載分配策略確定為最佳負載分配策略。

2.根據權利要求1所述的方法，其中，所述確定待執行的流水線的總數量，包括：

獲取查詢語句，其中，所述查詢語句包括待查詢數據；

根據預設數據分片大小對所述待查詢數據進行劃分，得到所述待查詢數據的數據分片及其總數；

分別為所述待查詢數據中的每個所述數據分片啟動對應的流水線，則待執行的所述流水線的總數量由所述數據分片的總數確定。

3.根據權利要求2所述的方法，其中，啟動所述用于對流水線進行查詢分析的模型將所述總數量對應的所述流水線分配至所述CPU和所述GPU上，并根據確定的分別在所述CPU和所述GPU上單條所述流水線的執行時長，計算所有的負載分配策略分別對應的系統執行時長，包括：

步驟一、啟動用于對流水線進行查詢分析的模型，設置初始負載分配策略：為所述CPU分配的流水線數量NCPU＝0，為所述GPU分配的流水線數量NGPU＝N，其中，N為所述流水線的總數量且N為大于等于1的正整數；

步驟二、并行執行分別分配在所述CPU和所述GPU上的每個所述流水線，得到當前負載分配策略對應的CPU執行時長和GPU執行時長；

步驟三、若所述CPU執行時長和所述GPU執行時長相等，則將所述CPU執行時長確定為當前負載分配策略對應的系統執行時長；若所述CPU執行時長和所述GPU執行時長不相等，則將所述CPU執行時長和所述GPU執行時長中的較大值確定為當前負載分配策略對應的系統執行時長；

步驟四、更新負載分配策略：為所述CPU分配的流水線數量NCPU＝NCPU+1，為所述GPU分配的流水線數量NGPU＝NGPU-1，其中，NCPU+NGPU＝N；

步驟五、重復上述步驟二至步驟四，直至得到所有的負載分配策略分別對應的系統執行時長。

4.根據權利要求3所述的方法，其中，所述根據確定的分別在所述CPU和所述GPU上單條所述流水線的執行時長，計算所有的負載分配策略分別對應的系統執行時長之前，還包括：

根據所述數據分片在CPU上的數據輸入時長TIN_C、數據執行時長TEXE_C及數據輸出時長TOUT_C，確定在所述CPU上單條所述流水線的執行時長；

根據所述數據分片在GPU上的數據輸入時長TIN_G、數據執行時長TEXE_G及數據輸出時長TOUT_G，確定在所述GPU上單條所述流水線的執行時長。

5.根據權利要求4所述的方法，其中，所述步驟二、中的得到當前負載分配策略對應的CPU執行時長和GPU執行時長的公式分別為：

TCPU＝TIN_C+TEXE_C+TOUT_C+Max(TIN_C，IEXE_C，TOUT_C}×(NCPU-1)，

TGPU＝TIN_G+TEXE_G+TOUR_G+Max{TIN_G，TEXE_G，TOUT_G}×(NGPU-1)，

其中，TCPU為當前負載分配策略對應的CPU執行時長，Max{TIN_C，TEXE_C，TOUT_C}為數據分片在CPU上的數據輸入時長TIN_C、數據執行時長TEXE_C及數據輸出時長TOUT_C中的最大值；

TGPU為當前負載分配策略對應的GPU執行時長，Max{TIN_G，TEXE_G，TOUT_G}為數據分片在GPU上的數據輸入時長TIN_G、數據執行時長TEXE_G及數據輸出時長TOUT_G中的最大值。