[發明專利]用于加速串行化算法的具有可變等待時間的位置感知型存儲器

在審

• 申請號: 202010098899.0
• 申請日: 2020-02-18
• 公開（公告）號: CN111274161A
• 公開（公告）日: 2020-06-12
• 發明（設計）人: 邵平平;駱培;李成
• 申請（專利權）人: 上海天數智芯半導體有限公司
• 主分類號: G06F12/02
• 分類號: G06F12/02;G06F13/18;G06F8/30;G06F9/50
• 代理公司: 南京鐘山專利代理有限公司 32252
• 代理人: 上官鳳棲

本發明提出了一種于加速串行化算法的具有可變等待時間的位置感知型存儲器，本發明的實施例可以通過根據存儲器組的物理位置信息重新分配存儲器訪問來提供技術解決方案。首先，在多代理系統中識別代理的物理位置。根據所述代理的指令確定存儲器訪問請求。在另一實施例中，基于所述代理的物理位置，調度器可確定物理位置最接近所述代理的所述物理位置的存儲器單元組。調度器然后可以將所確定的存儲器訪問請求分配給所述存儲器單元組。

技術領域

本發明的實施例大體上涉及提供用于串行化算法的物理位置感知型存儲器配置。

背景技術

標量處理一次僅處理一個數據項，典型數據項是整數或浮點數。通常，標量處理被分類為SISD處理（單指令，單數據）。此方法的另一變化是單指令、多線程（SIMT）處理。傳統的SIMT多線程處理器通過將線程組織成組并在單獨的處理管線、標量或向量管線上執行每個線程來提供多個線程的并行執行。在單個周期中調度由一個組中的線程執行的指令。生成處理管線控制信號，使得當線程跨越處理管線的各級時，組中的所有線程執行一組類似的操作。例如，一組中的所有線程從寄存器文件讀取源操作數，執行處理單元中的指定算術運算，并將結果寫回到寄存器文件。當在處理器中支持多個語境時，SIMT需要額外存儲器用于復制同一內核中使用的恒定值。因而，當從主存儲器或緩存加載不同恒定值時，引入等待時間開銷。

還應理解，在整體計算處理時間和等待時間時，對存儲器的訪問是整體計算的重要部分。還眾所周知，為了獲得期望的速度，芯片當中現在已經包括存儲器或存儲單元，使得物理距離被極大地降到最低。然而，在芯片上包括具有大存儲容量的存儲器單元并不具有成本效益。因此，將存在位于芯片外部同時經由總線連接并且在系統存儲器組/單元上的存儲器單元，或其他存儲單元，如硬盤驅動器，固態驅動器（SSD）等。

此外，在當今世界，典型的企業應用程序將具有多個組件，并將分布在各種系統和網絡上。如果兩個組件想要相互通信，則需要一種交換數據的機制。實現此目標的一種方法是定義自己的協議并傳輸對象。這意味著接收端必須知道發送者用來重新創建對象的協議，這會使得很難與第三方組件交談。因此，需要一種通用且有效的協議來在組件之間傳輸對象。為此目的定義的串行化操作使用此協議來傳輸對象。

因此，由于具有不同物理距離的存儲器宏之間的平衡訪問等待時間，所以可以將平均存儲器訪問等待時間創建為開銷，所述存儲器宏用于組成大型高性能存儲器陣列。此外，在只訪問存儲器的一小部分時，整體上不必要的功耗在存儲器陣列中與平衡訪問等待時間相聯系。當片上存儲器由在芯片上物理遠離的多個代理共享時，額外的等待時間和功耗是更不利的。

因此，本發明的實施例試圖解決或應對上文所指出的一個或多個技術問題。

發明內容

本發明的實施例可以通過將大型存儲器組或陣列劃分、區分或分開為較小的存儲器宏來提供技術解決方案，這些較小的存儲器宏是基于這些宏的物理位置（水平和豎直）并且基于與每個代理的接口對應的訪問等待時間周期分組的。在一個實施例中，較小的存儲器組的粒度可以由性能目標和設計可以承受的面積開銷確定。

在另一個實施例中，對于等待時間關鍵的串行化算法，在對應的代理可能的情況下可以將較小的存儲器組分配給具有較小等待時間的區域。可以將非等待時間關鍵線程或較不經常存取的存儲器組/陣列分配給遠離代理的相對較遠的存儲器組，以節省總體等待時間和電力。

而且，可以以訪問每個代理的最近存儲器組可能具有最高優先級的方式來調度來自不同代理的存儲器訪問。此外，多通道緩存器各自可以包括存儲器組，以避免返回路徑沖突，并且可以被配置成實現最低等待時間或最高帶寬能力。

附圖說明