[發明專利]硬件加速器虛擬化

有效

• 申請號: 201380079813.8
• 申請日: 2013-09-24
• 公開（公告）號: CN105579959B
• 公開（公告）日: 2019-06-07
• 發明（設計）人: 汪偉;M·保利克;J·帕里
• 申請（專利權）人: 渥太華大學
• 主分類號: G06F9/455
• 分類號: G06F9/455;G06F13/28;G06F15/167
• 代理公司: 北京市鑄成律師事務所 11313
• 代理人: 郝文博

一般提供了虛擬化硬件加速的技術。在一些示例中，協同監管器組件可被配置為多路復用多個域的請求以在半虛擬化環境中訪問諸如現場可編程門陣列(FPGA)、專用集成電路(ASIC)或相當的加速器的硬件加速器。超請求可用于硬件加速虛擬化，其中硬件加速模塊同時加載對第一加速器應用的請求的數據的一部分和對第二加速器應用的另一請求的數據的一部分并且同時處理兩個部分的數據。直接位于設備驅動器層上，協同監管器可以通過直接存儲器訪問(DMA)上下文切換來安排同時對硬件加速器的訪問請求的部分。

技術領域

本公開涉及硬件加速器的虛擬化。

背景技術

除非在此處進行說明，否則此處所描述的材料不是本申請權利要求的現有技術并且不因包含在該部分中而承認是現有技術。

云計算可以指作為服務在因特網上輸送的應用以及在提供那些服務的數據中心中的硬件連同系統軟件，云計算近年來已經在信息技術占據了中心地位。通過虛擬化技術(云計算的組成部分)底層硬件資源可以由每個均運行其自己的操作系統(OS)的多個虛擬機或域所共享。共享硬件資源可以產生較高的硬件利用率和較低的功耗。虛擬機監控器(VMM)(有時還稱為管理程序)通常負責將OS的每個運行實例與底層物理機隔離。VMM可以轉換或仿真客體OS的特殊指令。

基于圖形處理單元(GPU)的和基于現場可編程門陣列(FPGA)的硬件加速器也正在服務器行業變得普及。加速器加速應用的計算密集部分。將硬件加速器成功地且高效地添加到虛擬化服務器中可以使得云客戶端對于各種應用得到明顯加速。GPU通常較廉價且利用高級語言和應用編程接口(API)編程，這不考慮硬件細節。FGPA在許多具體應用上超越GPU。而且，執行部分運行時重構(run-time reconfiguration)的能力可以是FPGA的顯著區別。

一些FPGA虛擬化解決方案會導致在單個OS上停留在多任務級。普遍的GPU虛擬化方法主要是截獲API調用且將API調用重引導至主機或特權域的用戶空間，導致效率降低且開銷較高。另外，在一些FPGA虛擬化或GPU虛擬化解決方案中，加速器通常可以每次僅服務一個請求。

發明內容

本公開一般描述了虛擬化硬件加速技術。

根據一些示例，提供了各種訪問虛擬化的硬件加速模塊的方法。示例的方法可以包括：識別來自第一虛擬機(VM)的對能夠在硬件加速模塊上執行的第一加速器應用的的第一訪問請求；以及識別來自第二VM的對能夠在硬件加速模塊上執行的第二加速器應用的第二訪問請求。該方法還可以包括：利用協同監管器來安排第一訪問請求和第二訪問請求。該方法可以進一步包括：通過將對所述第一加速器應用的所述第一訪問請求的至少一部分和對所述第二加速器應用的所述第二訪問請求的一部分加載且同時處理所述訪問請求的第一部分和第二部分來使所述硬件加速模塊處理至少所述第一訪問請求的所述一部分和所述第二訪問請求的所述一部分。

根據其它示例，描述了虛擬化硬件加速模塊的各種協同監管器。示例的協同監管器可以包括能夠在處理器上執行的請求插入模塊。該請求插入模塊可被配置為識別來自第一虛擬機(VM)的對能夠在硬件加速模塊上執行的第一加速器應用的的第一訪問請求；以及識別來自第二VM的對能夠在硬件加速模塊上執行的第二加速器應用的第二訪問請求。示例的協同監管器還可以包括能夠在同一處理器上執行的排程模塊。該排程模塊可被配置為安排第一訪問請求和第二訪問請求。協同監管器可被配置為：通過將對所述第一加速器應用的所述第一訪問請求的至少一部分和對所述第二加速器應用的所述第二訪問請求的一部分加載且同時處理所述訪問請求的第一部分和第二部分來使所述硬件加速模塊處理至少所述第一訪問請求的所述一部分和所述第二訪問請求的所述一部分。