[發(fā)明專利]軟件輔助功率管理

在審

• 申請?zhí)枺?/td>: 202010589982.8
• 申請日: 2020-06-24
• 公開（公告）號: CN112445529A
• 公開（公告）日: 2021-03-05
• 發(fā)明（設(shè)計）人: 金承珉;圣達(dá)爾·拉馬尼;約格什·班薩爾;尼廷·N·加萊格拉特;奧莉維亞·K·吳;馬彥科·考希克;米瑞耐·伊耶爾;湯姆·謝拜;安德魯·楊
• 申請（專利權(quán)）人: 英特爾公司
• 主分類號: G06F9/38
• 分類號: G06F9/38
• 代理公司: 北京東方億思知識產(chǎn)權(quán)代理有限責(zé)任公司 11258
• 代理人: 楊佳婧

本公開涉及軟件輔助功率管理。實施例包括一種裝置，該裝置包括耦合到存儲器的執(zhí)行單元、微代碼控制器和硬件控制器。微代碼控制器用于：在指令流中標(biāo)識全局功率和性能提示，該指令流包括要并行執(zhí)行的第一和第二指令階段；基于第一指令階段中的同步依賴性來標(biāo)識局部提示；以及使用第一局部提示以在第一和第二指令階段的并行執(zhí)行期間平衡執(zhí)行單元和存儲器之間的功耗。硬件控制器用于：在第一和第二指令階段的并行執(zhí)行期間，使用全局提示來確定執(zhí)行單元的計算電壓的適當(dāng)電壓電平和計算時鐘信號的頻率。第一局部提示包括第一指令階段的處理速率或關(guān)于該處理速率的指示。

技術(shù)領(lǐng)域

本公開總體上涉及計算機領(lǐng)域，并且更具體地涉及計算機的軟件輔助功率管理。

背景技術(shù)

人工智能(AI)應(yīng)用的需求呈指數(shù)增長。AI應(yīng)用通常涉及深度學(xué)習(xí)，深度學(xué)習(xí)是一種機器學(xué)習(xí)，其使用稱為深度神經(jīng)網(wǎng)絡(luò)(DNN)的算法的分層結(jié)構(gòu)以學(xué)習(xí)和識別來自數(shù)據(jù)表示的模式。DNN通常表示為可以從輸入中計算值的互連“神經(jīng)元”的系統(tǒng)。DNN已經(jīng)成為用于改善用戶體驗的直觀的人/機交互的有效解決方案，這是稱為“認(rèn)知計算”的新計算范例。在其他用途中，DNN可以用于圖像處理、語音和目標(biāo)識別或自然語言處理。使用神經(jīng)網(wǎng)絡(luò)的應(yīng)用解析大量數(shù)據(jù)，并且需要典型計算機處理單元(CPU)無法提供的強大處理能力。此外，AI應(yīng)用通常受到系統(tǒng)電源的有限能力以及相關(guān)的散熱能力的限制。因此，需要在功率和熱量預(yù)算范圍內(nèi)滿足AI應(yīng)用越來越高的計算性能需求的解決方案。

發(fā)明內(nèi)容

根據(jù)本公開的一方面，提供了一種裝置，包括：執(zhí)行單元，其耦合到存儲器；微代碼控制器，用于：在指令流中標(biāo)識全局提示，所述指令流包括要并行執(zhí)行的第一指令階段和第二指令階段；在所述指令流中的所述第一指令階段中標(biāo)識第一局部提示；至少部分地基于所述第一局部提示，在所述第一指令階段和所述第二指令階段的并行執(zhí)行期間，平衡所述執(zhí)行單元和所述存儲器之間的功耗；以及硬件控制器，其耦合到所述微代碼控制器，所述硬件控制器用于：基于所述全局提示，確定所述執(zhí)行單元在所述第一指令階段和所述第二指令階段的并行執(zhí)行期間要使用的計算電壓的電壓電平和計算時鐘信號的頻率。

根據(jù)本公開的一方面，提供了一種系統(tǒng)，包括：存儲器；執(zhí)行單元，其耦合至所述存儲器；微代碼控制器，用于：對指令流中的第一指令階段和第二指令階段進(jìn)行解碼，所述第一指令階段和所述第二指令階段要并行執(zhí)行；在所述第一指令階段中標(biāo)識所述第一局部提示；在所述第二指令階段中標(biāo)識所述第二局部提示；基于所述第一局部提示確定所述第一指令階段的第一處理速率；基于所述第二局部提示確定所述第二指令階段的第二處理速率；以及基于確定所述第一指令階段的所述第一處理速率大于所述第二指令階段的所述第二處理速率，將多個速率控制指令插入所述第二指令階段，以使所述第二指令階段的執(zhí)行完成與所述第一指令階段的執(zhí)行完成同步。

根據(jù)本公開的一方面，提供了一種方法，該方法包括：在指令流中標(biāo)識全局提示，所述指令流包括要由處理器核的執(zhí)行單元執(zhí)行的計算指令階段；對所述指令流中的所述計算指令階段進(jìn)行解碼；在所述計算指令階段中標(biāo)識第一局部提示；基于所述第一局部提示確定所述計算指令階段的處理速率；將所述處理速率發(fā)送到所述執(zhí)行單元，以通過增大所述計算指令階段的計算流水線速率來增大所述執(zhí)行單元的功耗；以及基于所述全局提示，在所述計算指令階段的執(zhí)行期間，增大所述執(zhí)行單元的計算電壓的電壓電平并增大所述執(zhí)行單元的計算時鐘信號的頻率。

附圖說明

為了提供對本公開及其特征和優(yōu)點的更完整的理解，結(jié)合附圖參考以下描述，其中相同的附圖標(biāo)記表示相同的部分，其中：

圖1是示出根據(jù)本公開的至少一個實施例的可以在計算系統(tǒng)中實現(xiàn)的具有軟件輔助功率管理能力的集成電路的高級組件的簡化框圖；

圖2是示出根據(jù)至少一個實施例的具有軟件輔助功率管理能力的集成電路中的控制流的簡化框圖；

圖3A是根據(jù)至少一個實施例的利用具有軟件輔助功率管理能力的集成電路實現(xiàn)的計算系統(tǒng)中的可能的用戶模式驅(qū)動器的示例；