[發明專利]一種高速緩存管理策略的調整方法及系統

有效

• 申請號: 201010200577.9
• 申請日: 2010-06-13
• 公開（公告）號: CN101894078A
• 公開（公告）日: 2010-11-24
• 發明（設計）人: 程旭;管雪濤;黃濤
• 申請（專利權）人: 北京北大眾志微系統科技有限責任公司
• 主分類號: G06F12/08
• 分類號: G06F12/08
• 代理公司: 北京安信方達知識產權代理有限公司 11262
• 代理人: 栗若木;王漪

技術領域

本發明涉及計算機處理器高速緩存領域，特別是涉及一種高速緩存管理策略的調整方法及系統。

背景技術

高速緩沖存儲器(Cache，也稱為高速緩存)是計算機處理器的重要組成部分之一，是存儲速度介于寄存器和內存之間的一種存儲器。利用程序執行的局部性原理，盡可能地把將要訪問的數據存儲到高速緩存，當處理器需要數據時可以以很小的時間延遲把數據提交給處理器，從而達到減少訪存時延，提高處理器性能的目的。

由于高速緩存容量較小，需要對高速緩存進行有效的管理，盡可能將處理器需要的數據放入到高速緩存中，從而減少系統訪存失效幾率，降低訪存代價，提高系統的整體性能。

目前，高速緩存采用的替換管理方法主要包括隨機替換方法(random)、先入先出替換方法(FIFO)及最近最少使用替換方法(LRU)等。其中，LRU替換方法被普遍認為綜合性能較高，因此得到了工業界的廣泛采用，大量應用在通用處理器高速緩存設計中。

LRU替換方法中的最近最多使用(MRU)替換策略，是將新插入的緩存行放入最近最多使用位置的方法，在面對工作集較小、局部性較好的應用時性能較好，可以帶來較少的訪存失效。

但是，隨著網絡和多媒體等容易產生大量順序性訪問、工作集較大、局部性較差的應用程序被廣泛使用，采用傳統的LRU替換方法管理高速緩存已經不能滿足這些應用程序的高性能需求，往往會帶來較大的失效損失和訪存代價。

針對LRU替換方法插入策略的缺點和不足，先后出現了一系列的優化方法和改進方案，包括最少插入策略(Least?Insertion?Policy，LIP)、雙峰插入策略(Bimodal?Insertion?Policy，BIP)和動態插入策略(Dynamic?Insertion?Policy，DIP)策略。在這些優化方案中，DIP策略由于具有在兩種策略間之間根據訪存行為動態切換的功能，因而具有較高的性能和較好的應用前景。

但是，由于程序運行具有局部性特點，當前程序運行行為與已經過去較長一段時間的運行狀態之間的聯系較少，DIP策略的動態決策如果不根據當前應用運行變化而作相應調整，將可能會做出不符合當前應用運行行為的錯誤決策，從而帶來較大的失效損失和性能開銷。此外，即使對DIP策略進行調整，也應當根據程序運行的行為進行動態調整。

采用靈活性較差的靜態調整方式，盡管實現較為簡單，但是并沒有從根本上改變DIP決策方式與當前應用實際運行行為聯系較少的問題，從而無法滿足各種復雜情況的性能要求，尤其在面對多線程多處理器共享緩存結構時，性能往往較差。

發明內容

本發明所要解決的技術問題是需要提供一種高速緩存管理策略的調整方法及系統，解決現有技術中高速緩存動態插入策略決策方式與應用訪存行為實際需要出現偏差導致的系統性能降低的問題。

為了解決上述技術問題，本發明提供如下技術方案：

一種高速緩存管理策略的調整系統，所述系統包括工作子系統、測試子系統和調整子系統，所述工作子系統和所述測試子系統構成全部的高速緩存，其中：

所述工作子系統采用一種高速緩存管理策略管理所述工作子系統中的高速緩存；

所述測試子系統包括多個測試組，每個測試組分別采用不同的高速緩存管理策略管理本測試組內的高速緩存；

所述調整子系統記錄所述多個測試組管理高速的訪存信息，并根據所述多個測試組的訪存信息，對所述工作子系統采用的高速緩存管理策略進行調整。

進一步的，所述測試子系統包括響應當前進程的緩存行。

進一步的，所述測試子系統中每個測試組所包含的緩存行數量相等。

進一步的，所述調整子系統包括獲取模塊、選擇模塊和調整模塊，其中：

所述獲取模塊，用于獲取每個測試組的訪問失效數信息；

所述選擇模塊，與所述獲取模塊相連，用于根據所述多個測試組的訪問失效數信息，選擇該多個測試組中一個測試組所采用的高速緩存管理策略作為所述工作子系統的目標高速緩存管理策略；

所述調整模塊，與所述選擇模塊相連，用于根據本地預先設置的調整策略和所述目標高速緩存管理策略，調整所述工作子系統所采用的高速緩存管理策略。

進一步的，所述獲取模塊獲取的訪問失效數信息是一個或多個單位時間片的訪問失效數信息。

進一步的，所述調整模塊包括記錄單元、判斷單元和調整單元，其中：

所述記錄單元，用于記錄所述選擇模塊連續選擇同一目標高速緩存管理策略的次數；