[發明專利]用于異構計算系統中的工作竊取的方法和設備

有效

• 申請號: 201710028738.2
• 申請日: 2013-03-15
• 公開（公告）號: CN107092573B
• 公開（公告）日: 2023-04-18
• 發明（設計）人: R·白里克;S·A·赫哈特;J·斯里拉姆;T·施佩斯曼;R·L·哈德森
• 申請（專利權）人: 英特爾公司
• 主分類號: G06F13/42
• 分類號: G06F13/42;G06F9/50
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 李嘯;陳璟峰

工作竊取器設備包含確定模塊。確定模塊確定從第一類型的第一硬件計算單元竊取工作用于不同于第一類型的第二類型的第二硬件計算單元。該工作在第一工作隊列中排隊，第一工作隊列對應于第一硬件計算單元并且將被存儲在由第一和第二硬件計算單元共享的共享存儲器中。同步工作竊取器模塊通過對第一工作隊列的同步存儲器存取來竊取工作。同步存儲器存取將相對于對來自第一硬件計算單元的第一工作隊列的存儲器存取同步。

版權通告

本文包含的是受到版權保護的材料。當它出現在專利和商標局專利文件或記錄中時，版權擁有者不反對任何人復制該專利公開，但無論如何在其它方面保留對版權的所有權利。

技術領域

本文描述的實施例一般涉及異構計算系統。具體地說，本文描述的實施例一般涉及異構計算系統中的工作竊取。

背景技術

計算機除了部署為中央處理單元(CPU)的通用處理器之外還經常具有一個或多個硬件加速器裝置。此類硬件加速器裝置的一個廣泛使用的示例是圖形處理單元(GPU)。GPU傳統上已經用作主要驅動一個或多個顯示器的圖形子系統的一部分。GPU幫助從CPU卸載工作，由此允許CPU資源用于其它任務。CPU通常實現為通用處理器，并且一般將適合于執行各種不同類型的算法(例如一般性質的處理)。相比之下，GPU經常實現為專用處理器或至少更專業化的處理器，其一般更適合于執行有限數量的專業化算法(例如圖形相關算法)。GPU經常具有高度并行的計算硬件，其傾向于允許它們快速處理圖形數據。

近來，已經認識到GPU可用于其它非圖形應用。例如，GPU上的通用計算(GPGPU)一般表示利用GPU執行傳統上已經預留用于CPU的類型的通用型計算。經?？刹捎肎PU的高度并行計算硬件來顯著地加速此類計算。當以這種方式使用時，至少當正確實現時，GPU可幫助顯著加速計算密集應用。

然而，使用GPU加速非圖形應用的一個挑戰(例如在GPGPU的情況下)涉及工作調度。為了有效地利用CPU和GPU，重要的是在CPU與GPU之間以有效方式調度和分布工作。在一個可能方法中，CPU可以僅僅向GPU卸載或指配特定任務。CPU然后可等待或執行其它任務，而GPU完成指配的任務并提供結果。然而，在這種方法中，在處理相同工作負載時在CPU與GPU之間沒有實際協作。也就是說，CPU和GPU可能不同時對相同工作負載的不同部分工作。它實際上不是混合執行。

根據另一方法，CPU和GPU可參與混合執行，其中它們對在CPU和GPU上靜態調度的并行工作負載的不同部分協作地工作。此類混合執行可提供在相同工作負載上同時利用CPU和GPU的潛在優點。然而，傾向于有挑戰的是有效地在CPU與GPU之間調度工作負載的不同部分。例如，CPU和GPU可以不同時鐘速度操作，和/或可具有不同存儲器層級，和/或可具有不同的基于工作負載的性能特性?？稍贑PU和GPU之一上有效地執行的代碼可能沒有在另一個上執行得那么有效。其它競爭的工作負載和/或功率約束的存在可進一步傾向于使先驗有效地調度工作負載的能力復雜化。缺點是，如果工作負載未有效調度，則CPU和GPU之一可變得負擔過度，而另一個可能利用不足。

發明內容