[發明專利]一種末級緩存管理方法及系統

有效

• 申請號: 201710607258.1
• 申請日: 2017-07-24
• 公開（公告）號: CN107368437B
• 公開（公告）日: 2021-06-29
• 發明（設計）人: 張德閃
• 申請（專利權）人: 鄭州云海信息技術有限公司
• 主分類號: G06F12/0897
• 分類號: G06F12/0897;G06F12/122;G06F15/78
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 羅滿

本申請公開了一種末級緩存管理方法，應用于基于組相連映射的Cache，包括：當接收到CPU發送的訪問請求時，根據訪問請求的地址，判斷是否被命中；若未被命中，則將地址對應的緩存組中優先級位置最低的緩存行進行替換，并將緩存行的tag數據插入到預先在緩存組中添加的布隆過濾器中；判斷地址的tag數據是否存在于布隆過濾器當中；若地址的tag數據存在于布隆過濾器中，則將訪問請求對應的數據插入到緩存組的最高優先級的位置中。本申請通過在Cache中的緩存組中添加布隆過濾器，為數據的插入位置提供了可靠的理論依據，有效提升了緩存的空間利用率。另外，本申請還公開了一種末級緩存管理系統。

技術領域

本發明涉及緩存管理領域，特別涉及一種末級緩存管理方法及系統。

背景技術

隨著科學技術的進步，微處理器與存儲器之間的性能差距越來越大。為了減緩處理器與存儲器之間的性能差距，片上緩存被廣泛使用。然而怎樣利用緩存中的末級緩存(Last Level Cache，LLC)對系統的性能起著至關重要的作用。然而，這些緩存在使用傳統的緩存管理策略時，空間資源的利用率會很低，其主要原因是因為緩存中的緩存污染(Cache Pollution)和緩存抖動(Cache Thrashing)問題。目前已經有相關研究表明，改變數據塊的插入位置可以提高末級緩存的性能，例如通過修改最近未被使用(LeastRecently Used，LRU)的插入策略來減輕緩存污染或者是緩存抖動的問題，但是在使用雙向插入策略(Bimodal Insertion Policy，BIP)修改LRU的插入策略的過程中，僅僅是依據概率來選擇數據塊的插入位置，通常是以1/64的概率將數據塊插入到緩存組最高優先級的位置，其余插入到最低優先級的位置。顯然，這種方法理論性不足，極易引起訪問次數較多的數據塊誤判的情況，從而致使Cache的空間資源利用率不高，這也是在該技術領域亟待解決的一個問題。

發明內容

有鑒于此，本發明的目的在于提供一種末級緩存管理方法及系統，以提高緩存空間的利用率。其具體方案如下：

一種末級緩存管理方法，應用于基于組相連映射的Cache，包括：

當接收到CPU發送的訪問請求時，根據所述訪問請求的地址，判斷是否被命中；

若未被命中，則將所述地址對應的緩存組中優先級位置最低的緩存行進行替換，并將所述緩存行的tag數據插入到預先在所述緩存組中添加的布隆過濾器中；

判斷所述地址的tag數據是否存在于所述布隆過濾器當中；

若所述地址的tag數據存在于所述布隆過濾器中，則將所述訪問請求對應的數據插入到所述緩存組的最高優先級的位置中。

優選的，還包括：

若所述地址的tag數據不存在于所述布隆過濾器中，則將所述訪問請求對應的數據插入到所述緩存組的任意位置中。

優選的，所述將所述地址對應的緩存組中優先級位置最低的緩存行進行替換的過程之后，還包括：

判斷預先在所述緩存組中添加的飽和計數器的當前計數值是否等于所述布隆過濾器的數據容量大小；

若所述飽和計數器的當前計數值等于所述數據容量大小，則對所述布隆過濾器和所述飽和計數器進行復位操作；

若所述飽和計數器的當前計數值小于所述布隆過濾器的數據容量大小，則對所述飽和計數器的當前計數值進行加1。

優選的，還包括：

預先將所述布隆過濾器的數據容量大小設置為4W，并且，將所述布隆過濾器的位數組大小設置為6W；

其中，W為所述緩存組的路數。

優選的，還包括：