[發(fā)明專利]用于管理加速器資源的分配的技術

在審

• 申請?zhí)枺?/td>: 201780038806.1
• 申請日: 2017-06-21
• 公開（公告）號: CN109313584A
• 公開（公告）日: 2019-02-05
• 發(fā)明（設計）人: S.M.巴萊;R.坎納
• 申請（專利權）人: 英特爾公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 徐紅燕;申屠偉進

1.一種用于動態(tài)地管理加速器資源分配的調配器服務器，所述調配器服務器包括：

一個或多個處理器；

已經在其中存儲了多個指令的一個或多個存儲器設備，所述指令當被所述一個或多個處理器執(zhí)行的時候使得調配器服務器：

將工作負載指派給所管理的節(jié)點以用于執(zhí)行；

確定針對一個或多個加速器資源的、用于加速工作負載內一個或多個作業(yè)的執(zhí)行的所預測需求；

在所預測的需求之前供給一個或多個加速器資源來加速所述一個或多個作業(yè)；以及

將所述一個或多個所供給的加速器資源分配給所管理的節(jié)點來加速所述一個或多個作業(yè)的執(zhí)行。

2.根據權利要求1所述的調配器服務器，其中確定所預測的需求包括確定針對一個或多個現場可編程門陣列（FPGA）的需求。

3.根據權利要求2所述的調配器服務器，其中供給所述一個或多個加速器資源包括向所述一個或多個FPGA提供一比特流，所述比特流指示用于加速所述一個或多個作業(yè)的執(zhí)行的每個FPGA的配置。

4.根據權利要求1所述的調配器服務器，其中確定所預測的需求包括確定將分配以滿足所預測的需求的加速器資源的數目。

5.根據權利要求1所述的調配器服務器，其中供給所述一個或多個加速器資源包括供給位于與其上當前執(zhí)行工作負載的橇板不同的一個或多個橇板上的一個或多個加速器資源。

6.根據權利要求1所述的調配器服務器，其中所述多個指令當被執(zhí)行的時候此外使得調配器服務器：

確定用于供給所述一個或多個加速器資源中每一個的配置時間段；以及

確定所預測需求的所預測時間；并且

其中供給所述一個或多個加速器資源包括在早于所預測時間至少所述配置時間段的時間開始配置所述一個或多個加速器資源以用于對所述一個或多個作業(yè)的加速執(zhí)行。

7.根據權利要求1所述的調配器服務器，其中所述多個指令當被執(zhí)行的時候此外使得調配器服務器：

標識將利用一個或多個現場可編程門陣列（FPGA）來被加速的工作負載內的一個或多個作業(yè)；

關聯每個標識的作業(yè)與全局唯一標識符，所述全局唯一標識符指示作業(yè)的特定接口或作業(yè)的定義中的一個或多個。

8.根據權利要求7所述的調配器服務器，其中關聯每個標識的作業(yè)與全局唯一標識符包括關聯每個標識的作業(yè)與如下全局唯一標識符：所述全局唯一標識符指示對作業(yè)的輸入的格式或輸入的大小中的一個或多個。

9.根據權利要求1所述的調配器服務器，其中所管理的節(jié)點是多個所管理節(jié)點中之一，并且所述工作負載是由所管理節(jié)點執(zhí)行的多個工作負載之一，并且所述多個指令當被執(zhí)行的時候此外使得調配器服務器：

為每個工作負載確定對在每個工作負載中執(zhí)行作業(yè)的次數進行指示的局部計數；

確定對由所有所管理節(jié)點執(zhí)行作業(yè)的次數進行指示的全局計數；

確定所述局部計數或全局計數中的一個或多個是否滿足閾值計數值；以及

響應于確定了所述局部計數或全局計數中的一個或多個滿足閾值計數值而將相關聯的作業(yè)標識為待加速的作業(yè)。

10.根據權利要求9所述的調配器服務器，其中所述多個指令當被執(zhí)行的時候此外使得調配器服務器從多個加速器資源中標識用于加速所述一個或多個作業(yè)的所述一個或多個加速器資源。

11.根據權利要求10所述的調配器服務器，其中標識所述一個或多個加速器資源包括確定加速器資源中的一個或多個是否已經被配置成執(zhí)行作業(yè)中的一個或多個；以及

響應于確定了加速器資源中的一個或多個已經被配置成執(zhí)行作業(yè)中的一個或多個而選擇所述一個或多個已經配置過的加速器資源來用于所述一個或多個作業(yè)的加速。