[發明專利]對加速器的低延遲遠程處理

在審

• 申請號: 202210561009.4
• 申請日: 2022-05-23
• 公開（公告）號: CN115525444A
• 公開（公告）日: 2022-12-27
• 發明（設計）人: P·帕帕切恩;M·甘加達爾·巴瓦尼·文卡特斯安;J·格雷科;S·森;R·拉爾
• 申請（專利權）人: 英特爾公司
• 主分類號: G06F9/54
• 分類號: G06F9/54;G06F9/50
• 代理公司: 北京尚誠知識產權代理有限公司 11322
• 代理人: 龍淳

1.一種裝置，包括：

處理器；以及

耦合到所述處理器的存儲器裝置，所述存儲器裝置具有存儲在其上的指令，響應于處理器的執行，所述指令使得所述處理器：

在充當發起方的第一計算系統上接收來自調用者的第一函數調用，所述第一函數調用將由充當目標方的第二計算系統上的加速器執行，所述第一計算系統通過網絡耦合到所述第二計算系統；

確定所述第一函數調用的類型；

生成所述第一函數調用的參數值列表；

向所述第二計算系統發送第一消息，所述第一消息包括所述第一函數調用的名稱、所述第一函數調用的所述參數值列表和用于符號表的一個或多個新條目，所述一個或多個新條目表示偽輸出參數值；以及

當所述第一函數調用的所述類型是無輸出依賴的異步可調用函數時，返回給所述調用者；當所述第一函數調用的所述類型是具有可替換輸出參數的異步可調用函數時，將新創建的符號分配給輸出參數并返回給所述調用者；以及當所述第一函數調用的所述類型是同步函數時，阻止所述調用者，直到從所述第二計算系統接收到對所述第一消息的響應。

2.根據權利要求1所述的設備，所述存儲器裝置具有存儲在其上的指令，響應于所述處理器的執行，所述指令使得所述處理器：

當所述第一函數調用的所述類型是同步函數時，當從所述第二計算系統接收到對所述第一消息的所述響應時，解除對所述調用者的阻止。

3.根據權利要求1所述的設備，其中所述第一函數調用是將工作負載的性能從所述第一計算系統卸載到所述第二計算系統上的所述加速器的請求。

4.根據權利要求1所述的設備，所述存儲器設備具有存儲在其上的指令，響應于所述處理器的執行，所述指令使得所述處理器：

在充當目標方的所述第一計算系統上從作為發起方的所述第二計算系統接收第二消息，所述第二消息包括第二函數調用的名稱、所述第二函數調用的所述參數值列表和符號表的一個或多個新條目，所述一個或多個新條目表示偽輸出參數值；

將來自所述第二消息的所述一個或多個新條目添加到所述符號表中；

對于所述第二函數調用的所述參數值列表中的每個輸入參數值，如果有對應的符號表索引，則將與所述對應的符號表索引相關聯的符號表條目替換為偽輸出參數值；

由所述第一計算系統上的加速器使用所述輸入參數值執行所述函數；

當所述第二函數調用的所述類型是具有可替換輸出參數的所述異步可調用函數時，對于所述參數值列表中的每個輸出參數，將來自所述第二函數調用的所述參數值列表的偽輸出參數值映射到所述符號表中的對應輸出值；以及

向所述第二計算系統發送包括所述第二函數調用的所述名稱和輸出參數值列表的第二消息。

5.根據權利要求4所述的設備，其中所述第二函數調用是將工作負載的性能從所述第二計算系統卸載到所述第一計算系統上的所述加速器的請求。

6.一種方法，包括：

在充當發起方的第一計算系統上接收來自調用者的第一函數調用，所述第一函數調用將由充當目標方的第二計算系統上的加速器執行，所述第一計算系統通過網絡耦合到所述第二計算系統；

確定所述第一函數調用的類型；

生成所述第一函數調用的參數值列表；

向所述第二計算系統發送第一消息，其包括所述第一函數調用的名稱、所述第一函數調用的所述參數值列表和符號表的一個或多個新條目，所述一個或多個新條目表示偽輸出參數值；以及

當所述第一函數調用的所述類型是無輸出依賴的異步可調用函數時，返回給所述調用者；當所述第一函數調用的所述類型是具有可替換輸出參數的異步可調用函數時，將新創建的符號分配給輸出參數并返回給所述調用者；以及當所述第一函數調用的所述類型是同步函數時，阻止所述調用者，直到從所述第二計算系統接收到對所述第一消息的響應。

7.根據權利要求6所述的方法，包括當所述第一函數調用的所述類型是同步函數時，當從所述第二計算系統接收到對所述第一消息的所述響應時，解除對所述調用者的阻止。