[發明專利]網關上的主機代理

在審

• 申請號: 201980045015.0
• 申請日: 2019-06-28
• 公開（公告）號: CN112740190A
• 公開（公告）日: 2021-04-30
• 發明（設計）人: O.托倫德巴肯;D.J.P.威爾金森;R.L.S.奧斯博內;S.費利克斯;M.D.法爾斯;B.馬努拉;H.霍格
• 申請（專利權）人: 圖核有限公司
• 主分類號: G06F13/40
• 分類號: G06F13/40;G06F13/42
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 胡琪

一種網關，用于將主機與用于充當主機的工作加速器的子系統相接，該網關實現在由子系統到達的預編譯的數據交換同步點處的、去往和來自子系統的批次數據的傳送。該網關被配置為：從存儲系統接收由主機確定要由子系統處理的數據；存儲指示用于在每個預編譯的數據交換同步點處傳送到子系統的數據的可用性的多個信用；當子系統到達數據交換同步點時，從子系統接收同步請求；以及響應于確定多個信用包括非零數量的信用：向子系統發送同步確認；和使得接收到的數據被傳送到子系統。

技術領域

本公開涉及在計算機系統中使用的以將主機與充當工作加速器的子系統相接的網關，并且尤其涉及使用用于控制去往子系統的數據傳送的信用控制機制。

背景技術

在為復雜或大容量的應用處理數據的上下文中，工作加速器可以是從主機系統向其卸載(offload)某些數據的處理的子系統。此類工作加速器可以具有用于執行特定類型的處理的專用硬件。

作為示例，在機器智能中發現了可以使用此類專用的加速器子系統的一類計算領域。如機器智能的本領域技術人員所熟悉的，機器智能算法是基于對“知識模型”執行迭代更新，該“知識模型”可以由多個互連節點的圖來表示。每個節點的實現都涉及對數據的處理，并且圖的互連對應于要在節點之間交換的數據。通常，每個節點的至少一些處理可以獨立于圖中的一些或所有其他節點來執行，并因此大型的圖有很大的機會使用多線程。因此，專用于機器智能應用的工作加速器可以包括很大程度的多線程?？梢酝ㄟ^處理器的手段來實現一種形式的并行性，該處理器包括布置在同一芯片(chip)(即，同一晶片(die))上的多個區塊(tile)，每個區塊包括其各自單獨的相應處理單元和存儲器(包括程序存儲器和數據存儲器)。因此，可以在不同的區塊上并行地運行程序代碼的單獨部分。區塊經由芯片上互連被連接在一起，這使得能夠實現在區塊之間交換數據。此類加速器可以用作主機系統的子系統，以對提供給它的數據集執行并行處理。

一般來說，運行在不同區塊上的程序部分之間可能存在依賴性。因此，需要一種技術來防止一個區塊上的一段代碼在其所依賴的、通過另一個區塊上的另一段代碼可獲得的數據之前運行。有許多用于實現此目的的可能方案，舉例而言，在此將其中一種方案描述為“BSP(bulk synchronous parallel)”，即批量同步并行。根據BSP，每個區塊以交替的周期來執行計算階段和交換階段。在計算階段期間，每個區塊在區塊上本地執行一個或多個運算任務，但不將其任何運算結果與任何其他區塊進行通信。在交換階段中，允許每個區塊將來自前一計算階段的一個或多個運算結果交換到組中的一個或多個其他區塊和/或從組中的一個或多個其他區塊交換來自前一計算階段的一個或多個運算結果，但是該區塊尚未進入到下一計算階段。此外，根據BSP原理，在從計算階段轉換到交換階段的交接、或從交換階段轉換到計算階段的交接、或這兩者的交接處放置屏障同步。也就是說：(a)在允許組中的任何一個區塊進入到下一個交換階段之前，要求所有區塊完成它們各自的計算階段，或者(b)在允許組中的任何一個區塊進入到下一個計算階段之前，要求組中的所有區塊完成它們各自的交換階段，或者(c)這兩者。在某些情況下，可以允許執行運算的區塊與諸如網卡或存儲磁盤之類的其他系統資源通信，只要不涉及與組中的其他區塊進行的通信。

在交換階段期間，數據交換不僅可能在加速器中內部地(即，在區塊之間)發生，并且在某些情況下可能需要在加速器和外部存儲(例如，主機系統)之間發生。當子系統充當工作加速器時，其被配置為對提供給它的(諸如來自主機系統的)數據集進行處理。應當有利地調取數據集，使得可以在恰當的預編譯的數據交換同步點處將它們提供給加速器，這可以表示屏障同步。

當通過將子系統直接或間接地連接在一起來擴展子系統時，可能會出現一個問題，即系統的不同元件可能會先于彼此運行。這可能導致，如果用于提供數據的裝置落后于系統的加速器，則加速器所需的數據不可用。

發明內容