[發明專利]通過網關的數據

在審

• 申請號: 201980045008.0
• 申請日: 2019-06-25
• 公開（公告）號: CN112639738A
• 公開（公告）日: 2021-04-09
• 發明（設計）人: O.托倫德巴肯;B.馬努拉;H.霍格
• 申請（專利權）人: 圖核有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/38;G06F9/52;G06F13/42;H04L29/08
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 胡琪

一種在計算系統中使用的網關，用于將主機與用于充當主機的工作加速器的子系統相接，該網關具有：用于連接到子系統以實現在子系統和網關之間的批次數據的傳送的加速器接口；用于連接到外部存儲以在網關和存儲之間交換數據的數據連接接口；用于連接到至少一個第二網關的網關接口；連接到與網關相關聯的本地存儲器的存儲器接口；和流式傳輸引擎，用于響應于由子系統到達的預編譯的數據交換同步點而控制進入和離開網關的批次數據的流式傳輸，其中該批次數據的流式傳輸選擇性地經由加速器接口、數據連接接口、網關接口和存儲器接口中的至少一個。

技術領域

本公開涉及在計算機系統中使用的將主機與用于充當工作加速器的子系統相接的網關，并且尤其涉及對提供此類工作加速器的可擴展系統的網關的使用。

背景技術

在為復雜或大容量的應用處理數據的上下文中，工作加速器可以是從主機系統向其卸載(offload)某些數據的處理的子系統。此類工作加速器可以具有用于執行特定類型的處理的專用硬件。

作為示例，在機器智能中發現了可以使用此類專用的加速器子系統的一類計算領域。如機器智能的本領域技術人員所熟悉的，機器智能算法是基于對“知識模型”執行迭代更新，該“知識模型”可以由多個互連節點的圖來表示。每個節點的實現都涉及對數據的處理，并且圖的互連對應于要在節點之間交換的數據。通常，每個節點的至少一些處理可以獨立于圖中的一些或所有其他節點來執行，并因此大型的圖有很大的機會使用多線程。因此，專用于機器智能應用的工作加速器可以包括很大程度的多線程。可以通過處理器的手段來實現一種形式的并行性，該處理器包括布置在同一芯片(chip)(即，同一晶片(die))上的多個區塊(tile)，每個區塊包括其各自單獨的相應處理單元和存儲器(包括程序存儲器和數據存儲器)。因此，可以在不同的區塊上并行地運行程序代碼的單獨部分。區塊經由芯片上互連被連接在一起，這使得能夠實現在區塊之間交換數據。此類加速器可以用作主機系統的子系統，以對提供給它的數據集執行并行處理。

一般來說，運行在不同區塊上的程序部分之間可能存在依賴性。因此，需要一種技術來防止一個區塊上的一段代碼在其所依賴的、通過另一個區塊上的另一段代碼可獲得的數據之前運行。有許多用于實現此目的的可能方案，舉例而言，在此將其中一種方案描述為“BSP(bulk synchronous parallel)”，即批量同步并行。根據BSP，每個區塊以交替的周期來執行計算階段和交換階段。在計算階段期間，每個區塊在區塊上本地執行一個或多個運算任務，但不將其任何運算結果與任何其他區塊進行通信。在交換階段中，允許每個區塊將來自前一計算階段的一個或多個運算結果交換到組中的一個或多個其他區塊和/或從組中的一個或多個其他區塊交換來自前一計算階段的一個或多個運算結果，但是該區塊尚未進入到下一計算階段。此外，根據BSP原理，在從計算階段轉換到交換階段的交接、或從交換階段轉換到計算階段的交接、或這兩者的交接處放置屏障同步。也就是說：(a)在允許組中的任何一個區塊進入到下一個交換階段之前，要求所有區塊完成它們各自的計算階段，或者(b)在允許組中的任何一個區塊進入到下一個計算階段之前，要求組中的所有區塊完成它們各自的交換階段，或者(c)這兩者。在某些情況下，可以允許執行運算的區塊與諸如網卡或存儲磁盤之類的其他系統資源通信，只要不涉及與組中的其他區塊進行的通信。

為了增加用于執行這些操作的系統的處理能力，有利的是提供一種并入了多個用于充當工作加速器的子系統的系統。在上述模式中，每個加速器的區塊被配置為在計算階段期間并行處理數據，并且然后在交換階段期間交換數據。通過組合多個加速器，多個獨立的加速器的區塊可以并行處理數據，并且然后不僅在加速器內的區塊之間，而且還在屬于不同加速器的區塊之間交換數據。以這種方式，可以對加速器進行組合以產生大為改進的用于執行并行操作的處理能力。