[發明專利]緩存裝置及用于緩存裝置的緩存數據獲取方法

有效

• 申請號: 201310049323.5
• 申請日: 2013-02-07
• 公開（公告）號: CN103246613A
• 公開（公告）日: 2013-08-14
• 發明（設計）人: 瓊恩·索衣倫森;邁克爾·弗蘭克;阿卡迪·艾夫魯金
• 申請（專利權）人: 聯發科技（新加坡）私人有限公司
• 主分類號: G06F12/08
• 分類號: G06F12/08
• 代理公司: 北京萬慧達知識產權代理有限公司 11111
• 代理人: 于淼;楊穎

技術領域

本發明有關于一種緩存裝置，更具體地，有關于一種緩存裝置及用于緩存裝置的緩存數據獲取方法。

背景技術

緩存（cache）已經被應用了數十年，用于改進處理器性能。緩存是一種可改進片上系統（system?on?chip，SoC）性能的已知技術。通常，根據存儲大小和與處理器的距離可將緩存劃分為多種類型，如一級緩存（level?1?cache）、二級緩存（level?2?cache）和三級緩存（level?3?cache）。

請參考圖1，圖1為使用傳統緩存裝置102的SoC系統10的示意圖。如圖1所示，SoC系統10包括處理裝置100、緩存裝置102、外部存儲控制器104、外部存儲裝置106和多個系統元件108。處理裝置100用于處理從緩存裝置102和外部存儲裝置106獲取的數據。其中，外部存儲裝置106可為位于處理裝置100外部的存儲裝置。多個系統元件108需要來自外部存儲裝置106的數據，且該多個系統元件108可例如多媒體功能相關元件、外圍輸入輸出端口（peripheral?I/O）、調制解調器(modem)等。請注意，當處理裝置100與外部存儲裝置106之間的通信流（traffic?stream）被標記為不可緩存（non-cacheable）時，該通信流可直接經由外部存儲控制器104進行路由(route)而無需經緩存裝置102來進行路由。也就是說，只要指示通信流為不進行緩存，則在處理裝置100和外部存儲裝置106之間直接交換通信流。此外，多個系統元件108和外部存儲裝置106之間的通信流也不經由緩存裝置102進行路由。

通常，可以靜態隨機存取存儲器（static?random?access?memory，SRAM）實現緩存裝置102，并以動態隨機存取存儲器（dynamic?random?access?memory，DRAM）實現外部存儲裝置106。因此緩存裝置102比外部存儲裝置106速度更快且成本更高。此外，由于處理裝置100（例如中央處理單元（central?processing?unit，CPU））的操作速度比外部存儲控制器104和外部存儲裝置106的共同操作（co-operation）快許多，當從外部存儲裝置106存取數據時，可能要將處理裝置100的操作推遲（postpone）特定數目個時鐘周期。因此，為了增加處理裝置100的操作速度，處理裝置100首先從緩存裝置102獲取數據，然后當在緩存裝置102中找不到所需要的數據時再從外部存儲裝置106獲取數據。

如果從緩存裝置102獲取數據的幾率（probability）增加，則可減少處理裝置100存取外部存儲裝置106中存儲的數據時而浪費的空閑時間（idle?time），并增加處理裝置100的操作速度。然而，緩存裝置102的緩存大小是有限的。因此，如何從外部存儲裝置106有效地預取（pre-fetch）數據以及如何及時地移出（evict）緩存裝置102中存儲的數據已成為業界的十分重視的問題。

舉例而言，如果已經分配(allocate)了緩存裝置中所有的緩存行（cache?line）但又需要存儲一個新的數據元素時，則有必要移出一緩存行來存儲該新的數據元素。一種示例的傳統緩存替換策略是最近使用（least?recently?used，LRU）策略，用于選擇將要被移出的緩存行。LRU策略選擇最長時間處于緩存裝置中但并未被存取的緩存行。然而，一些存儲行可能存儲了曾經被讀取然后過時（obsolete）的數據（例如顯示數據）。在此情形中，由于一旦讀取操作已發生后，存儲此類數據的緩存行就可能被移出，因此LRU策略并不是最佳的替換算法。另一種示例的傳統緩存替換算法是隨機替換策略（random?replacement?policy），對于具有高度集合關聯性（set?associativity）的緩存設備而言，當LRU策略實施起來代價過于昂貴的時候經常使用此隨機替換策略。隨機替換策略隨機選擇緩存行用于進行替換。但隨機替換策略執行起來性能比LRU策略稍差。因此，需要以一種更為有效的方式來選擇被移出的緩存行。