[發明專利]在GPU中進行大整數計算時的存儲資源分配方法及裝置

在審

• 申請號: 201310435220.2
• 申請日: 2013-09-23
• 公開（公告）號: CN103631660A
• 公開（公告）日: 2014-03-12
• 發明（設計）人: 荊繼武;潘無窮;顧青;向繼;趙原;李淼;謝超
• 申請（專利權）人: 中國科學院數據與通信保護研究教育中心
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京德琦知識產權代理有限公司 11018
• 代理人: 牛崢;王麗琴

技術領域

本發明涉及大整數計算技術，特別涉及一種在圖形處理器（GPU，Graphics?Processing?Unit）中進行大整數計算時的存儲資源分配方法及裝置。?

背景技術

采用多核并行計算是提升處理器性能的重要方式，因此出現了包括海量并行結構運算單元的GPU，GPU已經發展成為了并行度高、多線程、計算快捷及內存帶寬大的高性能通用處理器。GPU體系結構在組成上分為三層：第一層由若干個線程處理器簇（TPC，Thread?Processing?Cluster）組成，第二層由多個流多處理器（SM，Streaming?Multiprocessor）組成，第三層為構成SM的流處理器（SP，Stream?Processor），也可以稱為線程處理器。SM作為GPU的一個任務執行和調度單元，主要負責執行GPU分發的線程指令，而SP是GPU中最基本的指令執行單元，其執行的操作由所屬的SM控制。?

2006年NVIDIA公司推出了統一計算設備架構（CUDA，Compute?Unified?Device?Architecture）可編程平臺，通過對標準C語言的一定拓展與改造，使得用戶可以通過類C語言代碼來實現GPU線程的調度，為GPU在通用計算領域的應用提供了友好的開發環境。在CUDA可編程平臺架構下，GPU執行的最小單位是線程（thread），數個線程（thread）可以組成一個線程塊（block）。一個block中的thread可以存取同一共享內存且同步。執行相同程序的block，組成柵格（grid），不同的grid可以執行不同的程序。在CUDA可編程平臺架構中，每個thread都有私有的存儲器（register）和本地內存（Local?Memory）。同一個block中的所有thread共享一共享內存（Shared?Memory），所有的thread共享一全局內存（Global?Memory）、常?數內存（Constant?Memory）及紋理內存（Texture?Memory）。不同的grid有各自的全局內存、常數內存和紋理內存。GPU中不同層次存儲結構具有不同的資源容量和訪問延遲等特性，例如，寄存器資源容量和訪問延遲都最小，而全局內存的資源容量和訪問延遲都最大。?

一個SM上可以駐留多個block，block數量根據GPU架構不同而不同，駐留在同一SM上的block共享該SM上的寄存器和共享內存等資源。而SM從當前駐留的block中以由32個thread組成的線程束（warp）為單位抓取thread計算。同樣，一個SP上也可以駐留多個thread。?

一個SM能夠支持的并發thread個數同時受兩個條件制約：第一，SM中所有thread占用的寄存器資源之和不能超過該SM包含的寄存器資源總容量；第二，目前CUDA規定每個block中最多包含512個thread，SM所能包含的thread數目還要受該SM駐留的block數目限制。?

設一個SM中駐留的block數量為n_b，包含的寄存器總容量為Mbit，該SM最多能夠支持的并發thread個數為n_t，且每個thread占用的寄存器資源分別為。則n_t必須滿足：且。?

例如，假設一個SM包含65Kbit的寄存器資源，每個thread平均占用128bit的寄存器。?

若n_b=2，，則n_t＝65×1024/128＝520；?

若n_b=1，，則n_t＝512×1＝512。?

可見，thread占用的寄存器資源對GPU的并行度具有很大的影響，thread占用的寄存器資源越少，SM中包含的并發thread才能越多，才能更好的提高thread的并行執行效率和GPU的運算性能。?