[發明專利]基于保留優先級的緩存替換策略

有效

• 申請號: 201310680919.5
• 申請日: 2013-12-12
• 公開（公告）號: CN103870394B
• 公開（公告）日: 2018-12-14
• 發明（設計）人: 帕瑞卡什·史昂萊·瑞恩萊卡亞妮;阿里·格哈森·賽迪
• 申請（專利權）人: ARM有限公司
• 主分類號: G06F12/0806
• 分類號: G06F12/0806
• 代理公司: 北京東方億思知識產權代理有限責任公司 11258
• 代理人: 李曉冬

本公開提供基于保留優先級的緩存替換策略。一種數據處理系統包括緩存存儲器(58)和緩存控制電路(56)，用于基于對緩存存儲器(58)中的每個緩存行(66)存儲的保留優先級值PV來施加緩存替換策略。在緩存行(66)被插入緩存存儲器(58)中時設置的初始保留優先級值取決于多個源中的哪個發送了導致插入的存儲器存取請求以及導致插入的存儲器存取請求的權限級別中的一者或兩者。由指令獲取產生的緩存行的初始保留優先級級別可以被設置為與由數據存取產生的緩存行不同。

技術領域

本發明涉及數據處理系統領域。更具體地，本發明涉及在數據處理系統中使用的緩存替換策略。

背景技術

已知提供帶有緩存存儲器的數據處理系統。緩存存儲器提供對頻繁使用的數據或指令更快、更有效的存取。與主存儲器相比，緩存存儲器通常具有有限的大小，并因此在任意給定的時間僅有保存在主存儲器中的指令／數據的子集能夠被保存在緩存存儲器中。為緩存存儲器提供替換策略，替換策略確定應當從緩存中移出緩存行(該緩存行可能包含數據和／或指令)以便給將要從主存儲器中獲取并存儲在緩存存儲器中的新的緩存行騰出空間。有很多已知的緩存替換策略的示例，比如最近最少使用法、輪叫法以及隨機法。

發明內容

從本發明的一個方面看，提供了一種用于處理數據的裝置，所述裝置包括：

存儲器存取請求的多個源；

耦合到所述多個源的緩存存儲器；以及

耦合到所述緩存存儲器的緩存控制電路，所述緩存控制電路被配置來控制緩存行到所述緩存存儲器的插入以及緩存行從所述緩存存儲器的逐出，其中

所述緩存控制電路被配置來存儲與插入到所述緩存存儲器中的每個緩存行相關聯的各保留優先級值；

所述緩存控制電路被配置來根據所述保留優先級值從所述緩存存儲器中選擇緩存行以逐出；以及

所述緩存控制電路被配置來根據以下至少一項設置與插入到所述緩存存儲器中的緩存行相關聯的保留優先級值：

(i)所述多個源中的哪個發送了導致所述緩存行插入到所述緩存存儲器中的存儲器存取請求；以及

(ii)所述存儲器存取請求的權限級別。

本技術認識到改善的替換策略可以通過將每個緩存行與依賴于存儲器存取請求的源和／或存儲器存取請求的權限級別的保留優先級值相關聯來獲得。隨后根據這些分配的保留優先級值(這些保留優先級值在緩存行駐留于緩存存儲器中期間可以被改變)從緩存存儲器中選擇緩存行以逐出。

緩存控制電路被配置來使具有相應于低保留優先級的保留優先級值的緩存行比具有相應于高保留優先級的保留優先級值的緩存行優先逐出。保留優先級值因此可被用來表示將給定的緩存行保持在緩存存儲器中的預測意愿。將緩存行保持在緩存存儲器中的意愿可能是該緩存行被頻繁存取或如果因該緩存行不存在于緩存存儲器中而存取被延遲所以導致重大懲罰的事實的結果。根據觸發獲取的初始存儲器存取請求的源和／或觸發獲取的存儲器存取請求的權限級別設置的保留優先級值可以增加從保留在緩存存儲器中的緩存行獲取的益處(或以另一種方式看，減少由沒有保留在緩存存儲器內的緩存行招致的懲罰)。

在一些示例實施例中，多個源可以包括被配置來獲取用于執行的程序指令的指令獲取電路和被配置來存取要經受處理操作的數據值的數據存取電路。作為示例，指令獲取電路和數據存取電路可以是通用處理器、圖形處理單元或DSP的部分。根據緩存行是因為指令獲取電路的存儲器存取還是數據存取電路的存儲器存取而被插入到緩存存儲器中，指令保留優先級值或數據保留優先級值可以與緩存行相關聯。指令保留優先級值和數據保留優先級值的不同之處在于對于緩存行隨后被從緩存存儲器中逐出給出不同的可能性。