[發明專利]使用動態電壓和頻率縮放進行功率調制

在審

• 申請號: 202211118838.1
• 申請日: 2022-09-13
• 公開（公告）號: CN115840498A
• 公開（公告）日: 2023-03-24
• 發明（設計）人: M·A·洛弗爾;R·M·馬奇塞爾
• 申請（專利權）人: 馬克西姆綜合產品公司
• 主分類號: G06F1/3206
• 分類號: G06F1/3206;G06F1/3234;G06F1/3296;G06N3/0464;G06N20/00
• 代理公司: 永新專利商標代理有限公司 72002
• 代理人: 李光穎

提供了用于使用動態電壓和頻率縮放進行功率調制的非侵入式、低成本的系統和方法，其允許設計人員降低比如機器學習電路等計算電路背景下的余量和安全裕度要求，而不增加占用空間或無需犧牲計算能力和其他寶貴資源。各種實施例通過利用機器學習電路的特定特性并使用CNN作為用于評估電路行為和調整電路參數以充分利用可用計算資源的診斷工具來實現這一點。

相關申請的交叉引用

本發明要求于2021年9月10日提交的發明人為馬克·艾倫·洛弗爾和羅伯特·邁克爾·穆克塞爾且名稱為“POWER MODULATION USING DYNAMIC VOLTAGE AND FREQUENCYSCALING[使用動態電壓和頻率縮放進行功率調制]”的共同未決的且共同受讓的美國非臨時專利申請號17/472,113的優先權權益。上述專利文獻通過引用以其全文結合在此。

背景

技術領域

本披露總體上涉及機器學習應用中的數據處理。更具體地，本披露涉及用于高效使用執行大量算術運算的機器學習計算電路的功率控制系統和方法。

背景技術

機器學習是人工智能的子領域，其使得計算機可以通過示例進行學習，而無需在常規意義上進行顯式編程。許多機器學習應用利用卷積神經網絡(CNN)，其是能夠解決復雜圖像分類和語義分割任務的監督式網絡。CNN使用大量多維訓練數據(例如，圖像或傳感器數據)作為輸入，通過使用和重復使用具有可學習參數的被應用于輸入數據的濾波器來學習這些數據中的突出特征。在隨后的推理階段，CNN使用非監督式操作在新輸入數據中檢測或插入先前未見的特征或事件，以分類對象或計算輸出(比如回歸)，或將其輸出與輸入相結合來完成比如噪聲抑制等任務。

為了對卷積執行大量算術計算，通常會使用比如嵌入式硬件機器學習加速器等硬件加速器。這種設備的功耗需求在寬動態范圍內變化，這高度依賴于各種因素，比如加速器在其中運行的系統的拓撲、正在處理的CNN的大小和執行的卷積計算的數量、正在處理的數據的類型和維度、執行計算的時鐘速度等。

比如線性調節器或開關電源等常用于驅動高功耗硬件加速器的內部電源和外部電源的尺寸被確定為在一個或多個固定軌電壓上輸出功率。由于硬件加速器必須在相對較短的時間量內執行大量計算，這通常會導致不希望的瞬時電流和功率尖峰，因而往往會對計算硬件的壽命產生負面影響。

雖然配備了一些方法以通過將電路的至少某些部分設置為低功率模式(例如，睡眠模式)來降低功率，但所有可用的電源軌通常會繼續以其標稱輸出電壓(即，最大容量)操作。因此，現有方法不能利用較低的存儲器電源電壓和本文提出的使用系統知識來智能地降低總體功耗的其他特征。與缺乏對硬件加速器和類似計算電路在任何時刻正在執行的計算步驟的類型和強度以及每組操作的功率需求的上下文感知的方法不同，本文中的某些實施例主動調整功率相關參數，其方式有益于機器學習電路并且避免浪費的寶貴的功率資源，尤其是在嵌入式系統中。

附圖說明

將參考本發明的實施例，附圖中可以展示這些實施例的示例。這些附圖旨在為說明性的，并非限制性的。盡管總體上在這些實施例的背景下描述了本發明，但是應當理解的是，其不旨在將本發明的范圍限制于這些特定實施例。

圖1是常規的嵌入式機器學習加速器系統的一般圖示。

圖2展示了根據本披露的各種實施例的用于提高機器學習電路中的計算資源利用率的控制系統的示例性框圖。

圖3是根據本披露的各種實施例的用于提高CNN中的計算資源利用率的說明性過程的流程圖。

圖4是根據本披露的各種實施例的用于提高CNN中的計算資源利用率的替代性過程的流程圖。

圖5描繪了根據本披露的實施例的計算設備/信息處置系統的簡化框圖。

具體實施方式