[發明專利]內存中計算的功率建模方法及功率管理方法

有效

• 申請號: 201810145805.3
• 申請日: 2018-02-12
• 公開（公告）號: CN108388498B
• 公開（公告）日: 2020-09-08
• 發明（設計）人: 孫廣宇;張超;孟彤
• 申請（專利權）人: 北京大學
• 主分類號: G06F11/30
• 分類號: G06F11/30;G06F11/34
• 代理公司: 北京萬象新悅知識產權代理有限公司 11360
• 代理人: 黃鳳茹

1.一種基于內存中計算的功率管理方法，首先建立BP模型，采用每功率帶寬BP表示內存中計算PIM中的帶寬和功率之間的關系；所述功率管理方法包括功率監控子任務限制PAST、處理單元加速PUB和功率沖刺PS；當功率供應超過功率需求時，采用PAST對PIM內功率消耗進行管理；當需要采用動態調整功率模式時，采用PUB方法；當需要短時間的功率過載時，采用PS方法提高功率仲裁器的功率上限值；由此實現基于內存中計算的功率管理；

A)采用功率監控子任務限制PAST管理功率，針對PIM任務的功率需求可能超過功率供應限制進行功率管理；PAST方法采用的裝置為兩級功率仲裁系統，兩級功率仲裁系統包含多個內存芯片和一個功率仲裁器L2；單個內存芯片內部包括網絡接口、重排子任務隊列、內存塊即處理單元、功率仲裁器L1；功率仲裁器包括算術邏輯單元、數據選擇器和計數器；在每個內存芯片內，由功率仲裁器L1控制內部的內存塊；

采用PAST方法管理功率包括如下步驟：

A1)內存芯片內部部件從網絡連接中獲得請求，將任務劃分成多個子任務，存儲在子任務隊列中，再對需求發送方進行應答；每一個子任務由一個存儲器端的處理單元PU完成；

A2)在任何內存塊的執行階段之前，子任務隊列通過使用ACQUIRE信號和需要的功率值P從功率仲裁器獲得功率許可；

A3)子任務隊列將一個子任務發射到一個內存塊，該內存塊新建一個子任務到隊列的末尾；當有足夠的功率運行一個新的子任務時，功率仲裁器發送一個START信號到該內存塊使其開始執行；否則，該內存塊被暫停，功率仲裁器將子任務對功率的需求放入子任務重排隊列；直到具有足夠的功率預算，內存塊被激活；當整個任務都被內存塊完成后，向功率仲裁器發送RELEASE信號，釋放為那個內存塊分配的功率；

B)采用處理單元加速方法PUB管理功率，將處理單元的功率模式按功率需求劃分成多級功率模式；通過采用簡單調度方法或優化調度方法為PIM內的多個處理單元分配功率模式，動態調整處理單元的功率模式以提升關鍵路徑中子任務的性能；

B1)簡單調度方法執行如下操作：

每次僅發布一個子任務；當子任務隊列中沒有需要在該處理單元上執行的子任務時，該處理單元處于低功率模式；一旦添加一個隊列條目后，處理單元的功率模式由低功率模式升級為高功率模式；

功率仲裁器評估當前剩余功率與所需功率；從劃分好的最高功率模式到最低功率模式進行掃描，如果有足夠的空閑功率，處理單元以該功率模式開始執行；如果PU無法開始執行，功率仲裁器將當前正在運行的處理單元從高功率模式降低到低功率模式；如果PU仍然無法開始，暫停隊列，等待足夠的空閑功率；由此實現為PIM內的多個處理單元分配功率模式；足夠的空閑功率指的是空閑功率值高于模式的功率；

B2)優化調度方法，基于子任務的有向無環圖，以三狀態有限狀態機方式FSM運作；三狀態為：READY、UPDATE和CHECK；具體執行如下操作：

首先將FSM初始化，置于READY狀態；

當有子任務結束時，引發UPDATE狀態，并更新圖和當前可用功率的計數器，然后返回到READY狀態；

當有更新時，狀態轉移到CHECK，再確定將要發布的子任務的功率模式；

當一個子任務在CHECK狀態結束時，狀態變回READY后轉移到UPDATE；

由此實現為PIM內的多個處理單元分配功率模式；

3)采用功率沖刺方法PS管理功率，使得在短時間內提供過載的功率，再返回到欠載功率狀態進行恢復；具體執行如下操作：

將處理單元的執行階段劃分為：正常執行階段、沖刺階段和恢復階段；

在沖刺階段，通過PAST和PUB方法提供更多電流，提高功率仲裁器的功率上限值，從而提升處理單元處理任務時的功率；

當沖刺階段結束處于恢復階段時，功率仲裁器向隊列和正在運行的多個處理單元發送一個額外的PAUSE命令，減少功率消耗，使功率達到以往的功率上限值，通過降低功率恢復正常狀態。