[發(fā)明專利]減少異構計算系統(tǒng)中的冷TLB未命中

在審

• 申請?zhí)枺?/td>: 201380051163.6
• 申請日: 2013-09-20
• 公開（公告）號: CN104704476A
• 公開（公告）日: 2015-06-10
• 發(fā)明（設計）人: 米瑟爾-麥托·帕帕杜普洛;麗薩·R·許;安德魯·G·克格爾;杰伊-阿森納·S·努萬;布拉德福德·M·貝克曼;史蒂文·K·萊因哈特
• 申請（專利權）人: 超威半導體公司
• 主分類號: G06F12/10
• 分類號: G06F12/10;G06F9/48
• 代理公司: 上海勝康律師事務所 31263
• 代理人: 樊英如;李獻忠

技術領域

所公開的實施方案涉及采用具有公用存儲器地址空間(物理和虛擬兩者)的不同類型處理單元(例如中央處理單元、圖形處理單元、數字信號處理器或各種類型的加速器)的異構計算系統(tǒng)的領域。更具體地，所公開的實施方案涉及在將任務從一種處理器類型卸載到另一種處理器類型時減少或避免此類計算系統(tǒng)中的冷轉換后備緩沖器(TLB)未命中的領域。

背景技術

異構計算系統(tǒng)通常采用不同類型的處理單元。例如，異構計算系統(tǒng)可使用共享公用存儲器地址空間(物理存儲器地址空間和虛擬存儲器地址空間兩者)的中央處理單元(CPU)和圖形處理單元(GPU)兩者。在使用GPU的通用計算(GPGPU計算)中，利用GPU來執(zhí)行傳統(tǒng)上由CPU執(zhí)行的某項工作或任務。CPU將任務切換或卸載到GPU，GPU繼而將執(zhí)行所述任務并且直接或通過將信息存儲在CPU在需要時能夠檢索到它的地方來為CPU提供結果、數據或其它信息。

雖然CPU和GPU常常共享公用存儲器地址空間，但常見的是，這些不同類型的處理單元具有可針對特定類型的處理單元進行優(yōu)化的獨立地址轉換機制或分級結構。也就是說，當今的處理設備通常利用虛擬尋址方案來對存儲器空間進行尋址。因此，轉換后備緩沖器(TLB)可用于將虛擬地址轉換成物理地址，以使得處理單元可定位待執(zhí)行的指令和/或待處理的數據。在任務切換的情況下，很可能的是，完成所卸載任務需要的轉換信息將從其它處理器類型的TLB中缺失，從而導致冷(初始)TLB未命中。為了從TLB未命中恢復，接收任務的處理器必須瀏覽存儲器頁面(通常被稱為“頁面遍歷(pagewalk)”)以便在任務處理能夠開始之前獲取轉換信息。通常，可以幾十至數百個時鐘周期計測量由于TLB未命中而導致的處理延遲或等待時間。

發(fā)明內容

提供了一種用于避免具有至少一個中央處理單元(CPU)和一個或多個圖形處理單元(GPU)的異構計算系統(tǒng)中的冷TLB未命中的方法。所述至少一個CPU和所述一個或多個GPU共享公用存儲器地址空間并且具有獨立的轉換后備緩沖器(TLB)。用于將任務從特定CPU卸載到特定GPU的方法包括將所述任務和轉換信息發(fā)送到所述特定GPU。所述GPU接收所述任務并且處理所述轉換信息以便在執(zhí)行所述任務之前將地址轉換數據加載到與所述一個或多個GPU相關聯(lián)的TLB中。

一種異構計算機系統(tǒng)包括用于利用執(zhí)行任務或卸載所述任務的至少一個中央處理單元(CPU)以及耦合到所述至少一個CPU的第一轉換后備緩沖器(TLB)。還包括能夠執(zhí)行所述任務的一個或多個圖形處理單元(GPU)和耦合到所述一個或多個GPU的第二TLB。公用存儲器地址空間耦合到所述第一TLB和所述第二TLB并且由所述至少一個CPU和所述一個或多個GPU共享。當將任務從特定CPU卸載到特定GPU時，轉換信息包括在所述任務切換中，所述特定GPU在執(zhí)行所述任務之前將地址轉換數據從所述轉換信息加載到所述第二TLB中。

附圖說明

在下文中將結合以下附圖來描述各個實施方案，在附圖中類似數字表示類似元件，并且

圖1是異構計算機系統(tǒng)的簡化示例性框圖；

圖2是示出根據一些實施方案的任務卸載的圖1的框圖；

圖3是示出根據一些實施方案的用于卸載任務的方法的流程圖；以及

圖4是示出根據一些實施方案的用于執(zhí)行所卸載任務的方法的流程圖。

具體實施方式

以下詳細描述本質上僅僅是說明性的，并且不意圖限制本公開或本公開的應用和用途。如本文所使用，單詞“示例性”表示“充當實例、例子或說明”。因此，在本文中描述為“示例性”的任何實施方案不一定被解釋為比其它實施方案更優(yōu)選或更有利。本文所述的所有實施方案均為示例性實施方案，其被提供來使得本領域的技術人員能夠制作或使用所公開的實施方案并且不限制本公開的范圍，本公開的范圍由權利要求書限定。此外，本公開不希望受到在前面的技術領域、背景、概述或以下詳述中所呈現(xiàn)的或針對任何特定計算機系統(tǒng)的任何明顯或隱含的理論的束縛。

在本文件中，關系術語諸如第一和第二等可單獨使用以便將一個實體或動作與另一個實體或動作區(qū)別開，而并不一定要求或暗示此類實體或動作之間的任何實際的這種關系或次序。序數詞諸如“第一”、“第二”、“第三”等僅僅表示多個中的不同個體，并且不暗示任何次序或順序，除非由權利要求書的語言明確定義。