[發明專利]基于虛存機制的指令片上異構存儲資源動態分配的方法

無效

• 申請號: 200910264520.2
• 申請日: 2009-12-25
• 公開（公告）號: CN101763316A
• 公開（公告）日: 2010-06-30
• 發明（設計）人: 凌明;張陽;梅晨;王歡;武建平;李冰
• 申請（專利權）人: 東南大學
• 主分類號: G06F12/08
• 分類號: G06F12/08
• 代理公司: 南京經緯專利商標代理有限公司 32200
• 代理人: 奚幼堅

技術領域

本發明涉及嵌入式片上存儲器領域，特別涉及一種基于虛存機制的指令片上異構存儲資源(包括指令Cache和指令SPM)動態分配的方法。

背景技術

隨著微電子技術的發展，以SoC(System-on-a-Chip)為基礎的嵌入式計算平臺日益成熟。然而，由于處理器速度與外部存儲器速度的差距不斷增大，SoC存儲子系統已經成為系統性能、功耗和成本的瓶頸。因此如何優化存儲子系統的架構及管理策略，一直是嵌入式研究的熱點。

作為傳統片上存儲器，Cache由硬件管理，大部分情況下對軟件透明，能自動裝載頻繁訪問的指令和數據到片上存儲器中。然而，Cache的高功耗、占用面積大、程序執行時間不可預知等不足一直限制其在嵌入式系統中的廣泛運用。尤其是Cache的組關聯特性，可能導致被映射到同一Cache行的不同程序內容，由于訪存規律，反復相互替換，從而增大了系統性能與能耗的開銷，即出現Cache抖動。與Cache相比，SPM(Scratch-Pad?Memory，便簽存儲器)是一種高速片上存儲器，通常由SRAM實現，是現代嵌入式系統中一個非常重要的系統框架設計考慮因素。SPM處于處理器可直接訪問的地址空間之內，由于傳統的SPM控制器不包含任何輔助管理數據的邏輯電路，SPM中的所有內容必須經由軟件顯式的管理，相對于對程序員透明的Cache，增加了程序管理的復雜性。由于沒有管理邏輯電路帶來的額外代價，相較于傳統Cache，SPM硬件實現更為簡單、單次訪問功耗更低、占用芯片面積更小而且訪問時間可預知。綜上，Cache和SPM各具優勢且存在互補性，因此對Cache和SPM共存的異構存儲器存儲資源進行研究，可以充分利用兩者優勢，從而最大限度降低系統能耗、提升系統性能。

一些針對嵌入式片上存儲器的研究的主要分析單純配置Cache或單純配置SPM的架構，不能很好的利用兩者互補的特性。直接將僅針對SPM的優化算法或僅針對Cache的優化算法運用到兩者共存的架構中，不能達到整體性能最優化，在一種存儲體上取得的優化收益可能被另一種存儲器的開銷所抵消，甚至引入更多系統性能與能耗的額外開銷。例如針對SPM的優化算法將某段主存的內容搬運到SPM，從而得到了性能與能耗的收益。然而搬運代碼本身可能對指令Cache造成污染、引起Cache優化算法的失效，從而造成額外的Cache缺失，抵消SPM的優化收益。

Cache缺失時需要實際訪外存操作并將新的內容換入Cache行，開銷較大，這被稱為Cache缺失的懲罰。由于Cache的組關聯特性，被映射到同一Cache行內容可能反復相互替換，帶來大量的訪存操作，從而導致系統性能急劇降低，系統能耗急劇增加，這就是Cache的沖突。通過增大Cache容量、增大組關聯數等方法，可以減小Cache沖突，但是這樣又會引入新的芯片面積并提升單次Cache讀寫時間及能耗。目前有研究指出Cache沖突是造成系統性能和能耗瓶頸的重要原因，因此他們將容易引起Cache沖突的程序段放入SPM，以此得到性能和能耗的收益。將容易引起Cache沖突的頁選入SPM中，不僅可以通過降低Cache沖突而降低系統能耗，提升系統性能，還能由單次訪問SPM與Cache的能耗差獲得更多收益。但是這些研究都是基于靜態的設計，即在程序執行中SPM中的內容不發生改變，沒有充分的利用Cache沖突在在時間維上的局部性，降低了SPM的利用率。并且，這些設計對SPM的管理依賴于對源程序跳轉指令的修改，是一種侵入式的分析。

由于對SPM內容的更改需要軟件顯示的進行，因此一般對SPM進行動態管理的研究都是通過“打樁”的形式，即在需要優化的程序核心循環前后，手工插入代碼搬運指令，從而完成對程序內容的換入換出。在程序映像中插入新的指令，需要依賴對源碼的分析，并且新的指令很可能引起共存架構中Cache行為的變化，例如產生更多的沖突。

目前針對Cache和SPM共存架構中指令部分的研究，一般需要對程序進行侵入式的分析，需要在用戶程序中插入、修改部分代碼，以實現在程序執行過程中內容的動態換入換出。到目前為止，還未有相關研究涉及基于虛存管理、利用時隙方法、不需要修改程序源碼地將程序的指令內容動態映射到片上SPM的方法。

發明內容

本發明的目的在于克服現有片上存儲子系統的不足，提供基于虛存機制的指令片上異構存儲資源動態分配的方法，采用容量較小的指令SPM存儲器在程序執行過程中緩沖頻繁訪問以及容易引起指令Cache沖突的程序，對程序的指令部分進行優化，從而提高微處理器運行的速度并降低系統能耗。