[發(fā)明專利]一種數(shù)據(jù)緩存系統(tǒng)和方法

有效

• 申請?zhí)枺?/td>: 201310576787.1
• 申請日: 2013-11-16
• 公開（公告）號: CN104657285B
• 公開（公告）日: 2020-05-05
• 發(fā)明（設計）人: 林正浩
• 申請（專利權）人: 上海芯豪微電子有限公司
• 主分類號: G06F12/0802
• 分類號: G06F12/0802;G06F12/1045
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發(fā)明提供了一種數(shù)據(jù)緩存系統(tǒng)和方法，應用于處理器領域時能在處理器核執(zhí)行數(shù)據(jù)讀取指令前，將所述指令需要的數(shù)據(jù)填充到數(shù)據(jù)存儲器中，并預測、預取下一次執(zhí)行該指令時可能的數(shù)據(jù)地址，以及將對應的數(shù)據(jù)按一定規(guī)律存放，盡可能減少標簽比較的次數(shù)。

技術領域

本發(fā)明涉及計算機，通訊及集成電路領域。

背景技術

通常而言，緩存的作用是將內存中的一部分內容復制在其中，使這些內容能在短時間內由處理器核快速存取，以保證流水線的持續(xù)運行。

現(xiàn)行緩存的尋址都基于以下方式，首先用地址中的索引段尋址讀出標簽存儲器中的標簽。同時用地址中索引段與塊內位移段共同尋址讀出緩存中的內容。此外，將標簽存儲器中讀出的標簽與地址中的標簽段進行匹配。如果從標簽存儲器中讀出的標簽與地址中的標簽段相同，那么從緩存中讀出的內容有效，稱為緩存命中。否則，如果從標簽存儲器中讀出的標簽與地址中的標簽段不相同，成為緩存缺失，從緩存中讀出的內容無效。對于多路組相聯(lián)的緩存，同時對各個路組并行進行上述操作，以檢測哪個路組緩存命中。命中路組對應的讀出內容為有效內容。若所有路組都為缺失，則所有讀出內容都無效。緩存缺失之后，緩存控制邏輯將低級存儲媒介中的內容填充到緩存中。

在現(xiàn)有緩存結構中，各種各樣的緩存預取技術被用來減少緩存缺失的發(fā)生。對于指令緩存而言，預取技術能帶來一定的性能提升。但是對于數(shù)據(jù)緩存，由于數(shù)據(jù)地址的不確定性，很難有效地對數(shù)據(jù)地址進行預測。因此，隨著日漸擴大的處理器／存儲器速度鴻溝，數(shù)據(jù)緩存缺失仍是制約現(xiàn)代處理器性能提升的最嚴重瓶頸。

此外，在現(xiàn)代處理器中最常用的組相聯(lián)緩存結構中，通常路組數(shù)越多，緩存的性能越好，但需要同時讀出、比較的標簽也越多，導致功耗越高。如何能在增加路組的同時，減少標簽比較的次數(shù)，是數(shù)據(jù)緩存改進中的難點之一。

本發(fā)明提出的方法與系統(tǒng)裝置能直接解決上述或其他的一個或多個困難。

發(fā)明內容

本發(fā)明提出了一種數(shù)據(jù)緩存方法，其特征在于對緩存中的數(shù)據(jù)存儲器進行配置，其中一部分存儲塊實現(xiàn)傳統(tǒng)的組相聯(lián)結構，另一部分存儲塊實現(xiàn)按組分配的結構；所述按組分配的緩存由多個組構成，每個組中存儲對應同一個起始數(shù)據(jù)塊地址的若干數(shù)據(jù)塊，且組內各個相鄰的存儲塊對應的數(shù)據(jù)地址之差為相同值。

可選的，每個組中的數(shù)據(jù)塊對應的數(shù)據(jù)地址具有相同部分；所述相同部分由數(shù)據(jù)地址中的標簽構成，或由數(shù)據(jù)地址中的標簽的一部分和索引號的一部分構成；地址相鄰或相近的數(shù)據(jù)塊存儲在同一個組中。

可選的，當一個組中的各個相鄰的存儲塊對應的數(shù)據(jù)地址之差等于數(shù)據(jù)塊長度時，該組中的所有存儲塊中的數(shù)據(jù)塊地址連續(xù)；當一個組中的各個相鄰的存儲塊對應的數(shù)據(jù)地址之差等于數(shù)據(jù)塊長度的整數(shù)倍時，該組中的所有存儲塊中的數(shù)據(jù)塊地址的間隔相等；可以根據(jù)當前數(shù)據(jù)在該組中對應的位置以及數(shù)據(jù)步長，直接確定下一數(shù)據(jù)是否也位于該組中，以及當該下一數(shù)據(jù)位于該組中時的所在位置。

可選的，提供一個順序表；所述順序表的行與數(shù)據(jù)存儲器中的組一一對應；且所述順序表的每一行中包含了一個壓縮比例；所述壓縮比例表示了相應組中各個相鄰存儲塊對應的數(shù)據(jù)塊地址的間隔值。

可選的，所述順序表的每一行中包含了與相應組中數(shù)據(jù)塊相鄰的數(shù)據(jù)塊所在的組的位置；可以根據(jù)當前數(shù)據(jù)在該組中對應的位置以及數(shù)據(jù)步長，直接確定下一數(shù)據(jù)所在的組及組中的位置。

可選的，所述順序表的每一行中包含了與相應組中第一個數(shù)據(jù)塊相鄰的連續(xù)若干個數(shù)據(jù)塊所在的組的位置。

可選的，所述順序表的每一行中包含了與相應組中最后一個數(shù)據(jù)塊相鄰的連續(xù)若干個數(shù)據(jù)塊所在的組的位置。

可選的，將數(shù)據(jù)地址轉換為緩存地址；所述緩存地址由組號、組內塊號和塊內偏移量構成；其中塊內偏移量與數(shù)據(jù)地址中的塊內偏移量相同；所述緩存地址可以直接用于對數(shù)據(jù)緩存中的數(shù)據(jù)存儲器尋址。