[實用新型]利用虛存機制對片上異構(gòu)存儲資源動態(tài)分配的電路

無效

• 申請?zhí)枺?/td>: 200920282465.5
• 申請日: 2009-12-21
• 公開（公告）號: CN201540564U
• 公開（公告）日: 2010-08-04
• 發(fā)明（設(shè)計）人: 凌明;張陽;梅晨;王歡;武建平
• 申請（專利權(quán)）人: 東南大學(xué)
• 主分類號: G06F12/08
• 分類號: G06F12/08;G06F12/12;G06F13/28
• 代理公司: 南京經(jīng)緯專利商標(biāo)代理有限公司 32200
• 代理人: 奚幼堅

技術(shù)領(lǐng)域

本實用新型涉及嵌入式片上存儲器領(lǐng)域，特別涉及一種利用虛存機制對片上異構(gòu)存儲資源(Cache和SPM的數(shù)據(jù)部分)動態(tài)分配的電路。

背景技術(shù)

隨著微電子技術(shù)的發(fā)展，以SoC(System-on-a-Chip)為基礎(chǔ)的嵌入式計算平臺日益成熟。然而，由于處理器速度與外部存儲器速度的差距不斷增大，SoC存儲子系統(tǒng)已經(jīng)成為系統(tǒng)性能、功耗和成本的瓶頸。因此如何優(yōu)化存儲子系統(tǒng)的架構(gòu)及管理策略，一直是嵌入式系統(tǒng)研究的熱點。

作為傳統(tǒng)片上存儲器，Cache由硬件管理，大部分情況下對軟件透明，能自動裝載頻繁訪問的指令和數(shù)據(jù)到片上存儲器中。然而，Cache的高功耗、占用芯片面積大、程序執(zhí)行時間不可預(yù)知等缺點一直限制其在嵌入式系統(tǒng)中的廣泛運用。尤其是Cache的組關(guān)聯(lián)特性，可能導(dǎo)致被映射到同一Cache行的不同程序內(nèi)容，反復(fù)相互替換(即Cache抖動)，從而增加了額外訪問主存SDRAM的成本，最終增大了系統(tǒng)性能與能耗開銷。與Cache相比，SPM(Scratch-Pad?Memory，便簽存儲器)是一種高速片上存儲器，通常由SRAM實現(xiàn)，是現(xiàn)代嵌入式系統(tǒng)框架設(shè)計中一個非常重要的考慮因素。SPM處于處理器可直接訪問的地址空間之內(nèi)，由于傳統(tǒng)的SPM控制器不包含任何輔助管理數(shù)據(jù)的邏輯電路，SPM中的所有內(nèi)容必須經(jīng)由軟件顯式的管理，相對于對程序員透明的Cache，增加了程序管理的復(fù)雜性。由于沒有管理邏輯電路引入的額外開銷，相較于傳統(tǒng)Cache，SPM硬件實現(xiàn)更為簡單、單次訪問功耗更低、占用芯片面積更小而且訪問時間可預(yù)知。綜上，Cache和SPM各具優(yōu)勢且存在互補性，因此對Cache和SPM共存的異構(gòu)片上存儲器資源進(jìn)行有效管理，可以充分利用兩者優(yōu)勢，從而最大限度降低系統(tǒng)能耗、提升系統(tǒng)性能。

一些針對嵌入式片上存儲器的研究的主要分析單獨配置Cache或單獨配置SPM的架構(gòu)，不能很好的利用兩者互補的特性。另一些研究則直接將僅針對SPM的優(yōu)化算法或僅針對Cache的優(yōu)化算法運用到兩者共存的架構(gòu)中，這將很可能導(dǎo)致在一種存儲器上取得的優(yōu)化收益可能被另一種存儲器的開銷所抵消，甚至引入更多額外的系統(tǒng)性能與能耗開銷。例如針對SPM的優(yōu)化算法將某段主存的內(nèi)容搬運到SPM，從而得到了性能與能耗的收益。然而搬運代碼本身可能對指令Cache造成污染、引起Cache優(yōu)化算法的失效，從而造成額外的Cache缺失，甚至引起Cache抖動，最終抵消SPM的優(yōu)化收益。

Cache缺失時需要訪問主存并將新的內(nèi)容換入Cache存儲器中，引起的性能和能耗開銷較大。由于Cache的組關(guān)聯(lián)特性，被映射到同一Cache行的內(nèi)容可能反復(fù)相互替換，帶來大量的訪存操作，最終導(dǎo)致系統(tǒng)性能急劇降低，系統(tǒng)能耗急劇增加，這就是Cache沖突。通過增大Cache容量、增大組關(guān)聯(lián)數(shù)等方法，可以減小Cache沖突，但是這樣又會引入新的芯片面積并增加單次Cache讀寫時間及能耗。目前有研究指出Cache沖突是造成系統(tǒng)性能和能耗瓶頸的重要原因，因此他們將容易引起Cache沖突的程序段放入SPM，以此得到性能和能耗的收益。將容易引起Cache沖突的頁選入SPM中，不僅可以降低Cache沖突，還能由單次訪問SPM與Cache的能耗差獲得更多收益。但是這些研究都采用靜態(tài)方式優(yōu)化，即在程序執(zhí)行過程中SPM中的內(nèi)容不發(fā)生改變，沒有充分利用Cache沖突在在時間維上的局部性，降低了SPM的利用率。并且，這些設(shè)計對SPM的管理依賴于對源程序跳轉(zhuǎn)指令的修改，是一種侵入式的優(yōu)化，因此僅能針對指令部分進(jìn)行分析，而不能分析更容易引起Cache抖動的程序數(shù)據(jù)部分。

由于對SPM內(nèi)容的更改需要軟件顯示的進(jìn)行，因此一般對SPM進(jìn)行動態(tài)管理的研究都是通過“打樁”的形式，即在需要優(yōu)化的程序核心循環(huán)前后，手工插入代碼搬運指令，從而完成對程序內(nèi)容的換入換出。在程序映像中插入新的指令，需要依賴對源碼的分析，并且新的指令很可能引起共存架構(gòu)中Cache行為的變化，最終導(dǎo)致更多Cache沖突。

目前針對Cache和SPM共存架構(gòu)中數(shù)據(jù)部分的研究，一般都僅針對程序的全局?jǐn)?shù)據(jù)部分。對于在程序在執(zhí)行過程中，動態(tài)分配與使用的堆數(shù)據(jù)與棧數(shù)據(jù)，基于源碼分析的靜態(tài)分析方法，如程序控制流圖(Control?Flow?Graph)、數(shù)組劃分等，難以對其進(jìn)行優(yōu)化。目前針對堆優(yōu)化和棧優(yōu)化的方案中，優(yōu)化效率較低，且方案不適用于全局?jǐn)?shù)據(jù)和常量池數(shù)據(jù)。因此，針對數(shù)據(jù)部分的優(yōu)化，一般是分別對全局?jǐn)?shù)據(jù)、常量池、堆和棧進(jìn)行分別優(yōu)化的。