[發明專利]一種多核處理器及其執行復雜計算的方法

有效

• 申請號: 202010765332.4
• 申請日: 2020-08-03
• 公開（公告）號: CN112306946B
• 公開（公告）日: 2023-09-26
• 發明（設計）人: D.卡帕利加;I.馬托塞維克;J.瓦西杰維克;U.艾多納特;A.盧維奇;S.A.欽;L.巴吉克
• 申請（專利權）人: 滕斯托倫特股份有限公司
• 主分類號: G06F15/173
• 分類號: G06F15/173
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 胡琪

公開了與由多核處理器高效執行復雜計算以及在多核處理器中的各個處理核心之間的數據移動相關的方法和系統。用于多核處理器的多核處理器堆棧能夠包括計算層，用于使用多核處理器中的處理核心來進行計算，具有用于該處理核心中的處理管線的可執行指令。多核處理器堆棧還能夠包括片上網絡層，用于連接多核處理器中的處理核心，具有用于多核處理器中的路由器和網絡接口單元的集合的可執行指令。能夠通過片上網絡覆蓋層在邏輯上將計算層與片上網絡層隔離。

相關申請的交叉引用

本申請要求于2019年8月2日提交的美國臨時專利申請第62/882,065號的權益，該申請出于所有目的通過引用整體并入本文。

背景技術

處理核心可以通過跨處理核心以分布式方式執行復雜計算的分量計算來協作執行復雜計算。為此，處理核心需要共享執行那些分量計算所需的數據，并接收關于已指派哪些分量計算的指令。與復雜計算如何分解成分量計算并指派給各個處理核心相關聯的技術與并行計算領域相關聯。

處理核心可以經由網絡連接，以便促進與并行計算相關聯的數據交換。每個處理核心可以經由專用路由器連接到網絡。當處理核心位于單個芯片上時，網絡可以被稱為片上網絡(NoC)。可以使用單播、多播或廣播傳輸在核心之間傳輸數據。在傳統方法中，傳輸可以是單跳或多跳，具體取決于核心的連接方式以及源和目的地核心在網絡內的物理位置。例如，當數據在相鄰路由器之間串行傳遞并從每個中間路由器轉發到最終目的地路由器時，相鄰核心可以能夠使用單跳傳輸進行通信，而遠端核心可能需要經由多跳傳輸進行通信。

圖1圖示了NoC?100的一部分，其中四個處理核心101、102、103和104通過網絡鏈接。該網絡包括總線集合，這些總線使用專用路由器(諸如路由器110、111、112和113)與每個處理核心通信。路由器使用網絡接口單元(NIU)與其相關聯的處理核心通信。總線集合包括將路由器彼此連接以及將路由器與其NIU連接的電線。NIU在處理核心上的硬件中被實例化。處理核心101、102、103和104執行它們已經使用存儲器和處理管線指派的分量計算。分量計算的輸入和輸出在NIU的控制下使用路由器110、111、112和113被路由。NIU是低級組件并且可以使用對應的低級存儲器復制原語(primitive)執行數據傳輸，其中將處理核心上的存儲器的本地片段復制到另一個處理核心上的存儲器的遠程片段。在單跳單播數據傳輸的基本情況下，存儲器復制操作涉及從源核心上的存儲器復制有限固定尺寸的緩沖區，然后經由總線將其寫入目的地核心上的緩沖區。為了傳輸大量數據，系統需要發出多個存儲器復制操作。

圖1還圖示了同一NoC?100的層圖150。在層圖150和本公開中的所有其它層圖中，具有尖銳邊的方框指示硬件，而具有圓形邊的方框指示由其上堆疊有方框的硬件實例化的軟件。層圖示出了計算層151和NoC層152，其中計算層151由處理管線執行的指令實例化并存儲在每個處理核心的存儲器中，而NoC層152由NIU、路由器和各種核心上的實現與核心之間的數據傳輸相關聯的低級原語的緩沖區執行的指令實例化。如以下發明內容中所述，此處使用執行指令的概念來描述進行任何邏輯或數據移動操作的設備的操作，即使“指令”完全在硬件中指定(例如，AND門執行“與”指令)。該術語無意表示對設備可編程的能力。實際上，本領域普通技術人員將認識到的是，NIU不是高度可配置的或可編程的。在上面提到的單跳單播數據傳輸示例中，執行低級原語(諸如存儲器復制操作)的指令仍然相當多并且涉及識別將數據復制到的存儲器的遠程片段，從而確保存儲器的遠程片段具有足夠的空間用于復制操作、跟蹤并保留存儲器的本地片段、為NIU提供數據本身和要傳輸的每條數據的地址，并且還跟蹤存儲器復制操作的狀態。在較大的緩沖區的情況下，指令還涉及將數據分解成多個存儲器復制操作。