[發明專利]一種GPGPU寄存器文件動態擴展方法

有效

• 申請號: 201810408687.0
• 申請日: 2018-05-02
• 公開（公告）號: CN108595258B
• 公開（公告）日: 2021-07-27
• 發明（設計）人: 白躍彬;禹超;楊海龍;顧育豪;欒廣強;王春陽;陳慶斌
• 申請（專利權）人: 北京航空航天大學
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50;G06F9/54
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發明公開了一種GPGPU寄存器文件動態擴展方法，包括：1)在編譯器中對GPGPU程序指令塊進行劃分，并分析每個指令塊的活動寄存器；2)運行時，依據資源狀態對每個線程塊的資源分配方式進行決策；3)當寄存器文件限制了GPGPU的線程級并行性時，將部分寄存器分配在共享內存中，從而在邏輯上增大了寄存器文件的容量；4)在每個指令塊被調度執行前，通過數據預取將指令塊使用的分配在共享內存中的寄存器數據讀取到一個高帶寬的小容量操作數緩存中。本發明能夠有效提高GPGPU片上資源的使用效率，最大限度提升GPGPU的線程級并發性，充分挖掘GPGPU的性能潛力。

技術領域

本發明涉及GPGPU中片上資源優化管理和線程塊調度等領域，特別是涉及一種GPGPU寄存器文件動態擴展方法。

背景技術

作為高性能計算中的重要組成部分，通用計算圖形處理器(General PurposeGPU，以下簡稱GPGPU)主要通過其大規模的線程級并行(Thread Level Parallelism，以下簡稱TLP)來體現其高性能特性。在GPGPU中，指令延遲和內存訪問所造成的低效主要通過大規模線程間的快速切換來進行隱藏。在執行一些線程束中高延遲的指令時，GPGPU中的線程束調度器會調度其余的線程束進行執行而避免流水線在高延遲指令上的等待。為了支持GPGPU大規模并發線程的快速切換，GPGPU的每個流多處理器(Streaming Multiprocessor，以下簡稱SM)中都會配備一個大容量的寄存器文件(Register File，以下簡稱RF)來存放所有并發線程的上下文信息。因此，為了提高GPGPU的TLP，需要對RF進行高效管理來提高其利用率，使盡可能多的線程能夠分配到所需資源并運行。

為了充分利用RF、提高GPGPU的TLP，學術界和產業界開展了大量的工作。已有的具有代表性的研究成果主要分為以下兩個方面：

(1)線程束級資源管理粒度

GPGPU默認采用線程塊級資源管理粒度，當剩余的資源不足以滿足一個線程塊的資源需求時，那么將不會再有線程塊被調度到SM上運行，剩余的資源也無法被充分利用，這不僅會造成資源碎片，而且還會限制GPGPU的TLP。線程束級的資源管理粒度能夠在一定程度上解決資源碎片問題并提高GPGPU的TLP。當剩余的資源不足以滿足一個線程塊的資源需求，但是能夠滿足線程塊中部分線程束的資源需求時，那么就將能夠分配到資源的部分線程束調度到SM上運行。

(2)基于時分復用的RF重用機制

當寄存器被分配給GPGPU線程后，GPGPU線程對每一個寄存器的使用并不是從開始運行一直到運行結束，大部分寄存器的生命周期僅僅局限于GPGPU線程運行過程中的一個或多個時間段。通過分析GPGPU寄存器的生命周期，使不同的線程束能夠在不同時間段使用同一個寄存器，而不是使每一個寄存器在其所屬的線程運行過程中只能被一個線程使用。通過時分復用寄存器，能夠增加每個時刻同時運行的線程數量，從而提高GPGPU的TLP。

綜上可以看出，現有方法對RF的優化管理方法都是將RF看成一個獨立的資源并僅僅對RF進行獨立的優化。本發明從全局的角度提出一種GPGPU寄存器文件動態擴展方法，當由于RF的容量限制不足以調度更多的線程塊到SM上運行時，將RF的功能動態擴展到SM上的共享內存(Shared Memory，以下簡稱SHMEM)，使線程塊的部分寄存器能夠分配到SHMEM，這樣不僅能夠充分利用RF，還能極大提高SHMEM的利用率。

發明內容

本發明技術解決問題：克服現有技術的不足和缺陷，提供一種GPGPU寄存器文件動態擴展方法，使RF的容量得到動態擴展，在充分利用RF的同時也極大提高SHMEM的利用率。

本發明的技術解決方案，一種GPGPU寄存器文件動態擴展方法，包括如下步驟：