[發明專利]用于大型數據緩存的有效標簽存儲

無效

• 申請號: 201280027342.1
• 申請日: 2012-05-09
• 公開（公告）號: CN103597455A
• 公開（公告）日: 2014-02-19
• 發明（設計）人: 鐘在雄;尼蘭詹·孫達拉拉詹
• 申請（專利權）人: 超威半導體公司
• 主分類號: G06F12/08
• 分類號: G06F12/08
• 代理公司: 上海勝康律師事務所 31263
• 代理人: 李獻忠

發明背景

構建更強大的計算機處理器的主要困難是處理內核可執行計算的速度與處理內核可從其上的存儲器檢索數據以執行那些計算的速度之間相差懸殊。盡管近年來已針對“存儲器間隙”做出了很多努力，但是處理能力仍繼續超過存儲器的速度。此外，由于當今的計算機處理器逐漸地變成多核(即包括多個計算單元，每個計算單元均被配置成執行軟件指令的對應流)，對存儲器帶寬的需求持續增長。

為什么對存儲器(例如，晶片外動態隨機存取存儲器)的訪問已不足以滿足對增長的多核處理器的吞吐量需求的一個原因是I/O(輸入/輸出)引腳的有限可擴展性。堆棧存儲器或3D堆棧是最近的提案，其通過將存儲器直接堆棧在處理器上來解決該限制，從而顯著地減少在處理器與存儲器之間的線延遲。例如，可使用結合有密集、低延遲、高帶寬的垂直互連的多層活性硅構造堆棧存儲器電路。與傳統的晶片外DRAM相比，堆棧存儲器提供了增加的數據帶寬、減少的延遲和較低的能量要求。存儲器堆棧還能使計算機設計師合并不同的存儲器技術，如高速CMOS(互補金屬氧化物半導體)、高密度的DRAM、eDRAM和/或其它。

堆棧存儲器技術已用于實現大型最末級數據緩存(即緩存層次結構的最低級別)，如L4緩存。對于適應現代應用的相當大的存儲器占用和/或多核處理器的高存儲器需求而言，大型最末級緩存可能是理想的。

使用堆棧存儲器(即堆棧存儲器緩存)實現大型最末級緩存具有數個優點。例如，可通過硬件而非軟件管理該類緩存，這可允許緩存輕易地適應應用相變并且避免與晶片內和晶片外的數據傳送相關聯的轉址旁路緩沖器(TLB)的清空。此外，由于傳統緩存是使用無效率地消耗芯片空間的快速但昂貴的靜態存儲器(例如，SRAM)而實現的，因此它們的生產成本高、具有小容量并且在固定的配置(例如，關聯性、塊大小等)中進行配置的。與此相反，可使用動態存儲器(例如，DRAM)實現堆棧存儲器緩存，與用于構建傳統緩存的靜態存儲器相比，動態存儲器更便宜且更密集。對應地，堆棧存儲器緩存可按低于傳統的基于SRAM的技術的成本提供大型最末級緩存。

發明概要

本發明公開了一種用于在計算機系統中實現數據緩存的裝置、方法和介質。裝置包括第一數據緩存、第二數據緩存和緩存邏輯。緩存邏輯被配置成在第一數據緩存中緩存存儲器數據。在第一數據緩存中緩存存儲器數據包括在第一數據緩存中存儲存儲器數據并在第二數據緩存中，而非在第一數據緩存中存儲對應于存儲器數據的標簽數據。

在一些實施例中，第一數據緩存可在運行時間動態地重新配置。例如，軟件(例如，操作系統)可通過修改第一數據緩存和/或第二數據緩存的一個或多個配置寄存器而修改第一數據緩存的大小、塊大小、塊的數量、關聯級別和/或其它參數。在一些實施例中，響應于對在一個或多個處理器上執行的工作負荷的特定特征的檢測，軟件可重新配置第一數據緩存。

在各種實施例中，第一和第二數據緩存可實現數據緩存層次結構中的相應級別。例如，第一數據緩存可實現在緩存層次結構中位于由第二數據緩存實現的級別下方的級別(例如，第一數據緩存實現L4緩存且第二數據緩存實現L3緩存)。在一些實施例中，第一數據緩存可以是大型最末級緩存，其可使用堆棧存儲器而實現。

附圖簡述

圖1為示出根據一些實施例的包括具有L3-實現的標簽陣列的可重新配置的L4數據緩存的處理器各組件的框圖。

圖2為示出根據一些實施例的給定緩存可將給定的存儲器地址分解成的各字段的框圖。

圖3a為示出根據各實施例的可如何保留一些L3緩存塊以存儲L4標簽的框圖。

圖3b示出根據一些實施例的可用于存儲緩存標簽的標簽結構。

圖4a示出根據一些實施例的L3緩存邏輯可包括的用于實現可重新配置的L4緩存的各寄存器。

圖4b示出根據一些實施例的L4緩存邏輯可包括的用于實現可重新配置的L4緩存的各寄存器。

圖5為示出根據一些實施例的用于查閱存儲在L3緩存中的L4標簽以確定L4緩存是否存儲有與給定存儲器地址對應的數據的方法的流程圖。

圖6示出在DRAM頁上的緩存塊的實例布置，其中每一頁均存儲有物理連續的存儲器。

圖7為示出根據一些實施例的用于定位與給定的物理地址對應的L4緩存塊的方法的流程圖。

圖8為示出根據一些實施例的在運行時間對L4緩存進行重新配置的方法的流程圖。

圖9為示出根據一些實施例的用于可重新配置的緩存實施方式的配置寄存器的4個實例配置的表。