[發(fā)明專利]一種計(jì)算機(jī)緩存系統(tǒng)的管理方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201210464057.8
• 申請(qǐng)日: 2012-11-16
• 公開(kāi)（公告）號(hào): CN102999443A
• 公開(kāi)（公告）日: 2013-03-27
• 發(fā)明（設(shè)計(jì)）人: 鄒陽(yáng);王去非
• 申請(qǐng)（專利權(quán)）人: 廣州優(yōu)倍達(dá)信息科技有限公司
• 主分類號(hào): G06F12/08
• 分類號(hào): G06F12/08
• 代理公司: 廣州市華學(xué)知識(shí)產(chǎn)權(quán)代理有限公司 44245
• 代理人: 黃磊

技術(shù)領(lǐng)域

本發(fā)明涉及一種計(jì)算機(jī)緩存系統(tǒng)的管理算法，具體是指一種CPU緩存系統(tǒng)的管理方法。

背景技術(shù)

目前，計(jì)算機(jī)系統(tǒng)訪問(wèn)諸如內(nèi)存和其他低級(jí)存儲(chǔ)設(shè)備（如硬盤(pán)和網(wǎng)絡(luò)設(shè)備）時(shí)均有很大的延遲。以訪問(wèn)內(nèi)存為例，在CPU發(fā)出數(shù)據(jù)和指令的存取命令后，要約100納秒的時(shí)間才能得到數(shù)據(jù)，這相當(dāng)于CPU核心執(zhí)行幾百條指令的時(shí)間。由于CPU系統(tǒng)對(duì)指令和數(shù)據(jù)的使用有一定的規(guī)律，因此根據(jù)這些規(guī)律，我們便可以設(shè)計(jì)各種手段猜測(cè)CPU將要使用到的指令和數(shù)據(jù)，并提前預(yù)取這些內(nèi)容到CPU中以備用。這樣當(dāng)CPU要實(shí)際使用這些指令和數(shù)據(jù)時(shí)，不需要等待，可以立即得到這些指令和數(shù)據(jù)。因此，預(yù)取（Prefetch）是能夠有效地減少CPU訪問(wèn)內(nèi)存和其他低級(jí)存儲(chǔ)設(shè)備的平均訪問(wèn)延遲的一種手段。

然而，預(yù)取在實(shí)際應(yīng)用中的功效取決于兩個(gè)條件：第一，預(yù)取的準(zhǔn)確性，也即預(yù)取的數(shù)據(jù)和指令是否及時(shí)，是否會(huì)被實(shí)際地用到；第二，預(yù)取的指令和數(shù)據(jù)對(duì)CPU緩存中現(xiàn)有的有用的指令和數(shù)據(jù)的排擠沖刷作用。雖然預(yù)取可以有效地降低內(nèi)存訪問(wèn)的平均延遲，但是預(yù)取的內(nèi)容會(huì)替換掉CPU緩存中現(xiàn)有的有用指令和數(shù)據(jù)，而這些被預(yù)取的內(nèi)容替換掉的CPU緩存中現(xiàn)有的有用內(nèi)容是將來(lái)要被重新耗費(fèi)時(shí)間讀入CPU的。因此對(duì)預(yù)取內(nèi)容的處理不當(dāng)，會(huì)增加CPU緩存失誤，增加CPU對(duì)內(nèi)存的訪問(wèn)次數(shù)，損害性能。

發(fā)明內(nèi)容

本發(fā)明的目的在于克服目前CPU預(yù)取時(shí)，CPU緩存中現(xiàn)有的有用數(shù)據(jù)會(huì)被預(yù)取的內(nèi)容替換掉，從而會(huì)增加緩存失誤、降低性能的缺陷，提供一種能有效解決上述缺陷的一種計(jì)算機(jī)緩存系統(tǒng)的管理方法。

本發(fā)明通過(guò)以下技術(shù)方案實(shí)現(xiàn)：一種計(jì)算機(jī)緩存系統(tǒng)的管理方法，該緩存系統(tǒng)包括一個(gè)以上的緩存線，且每個(gè)緩存線均包含有一個(gè)或多個(gè)數(shù)據(jù)字，同時(shí)每個(gè)緩存線都有一個(gè)命中Hit標(biāo)識(shí)位，所述緩存線的數(shù)據(jù)字為當(dāng)前正在使用的或預(yù)取的；其管理步驟為：在緩存線裝載時(shí)，其命中Hit標(biāo)識(shí)位被置為0；在緩存線命中時(shí)，命中Hit標(biāo)識(shí)位被置為1；替換時(shí)，首先替換命中Hit標(biāo)識(shí)位為0的緩存線，再替換命中Hit標(biāo)識(shí)位為1的緩存線。

進(jìn)一步地，上述每個(gè)緩存線中都還設(shè)有一個(gè)預(yù)取P標(biāo)識(shí)位，其管理步驟為，當(dāng)緩存線的數(shù)據(jù)字為預(yù)取的內(nèi)容時(shí)，P標(biāo)識(shí)位置1，否則置0；在替換時(shí)，首先替換P標(biāo)識(shí)位都為0的緩存線，再替換P標(biāo)識(shí)位為1的緩存線。或者，每個(gè)緩存線中還設(shè)有一個(gè)U標(biāo)識(shí)位，其管理步驟為，當(dāng)緩存線第一次裝載入緩存時(shí)，U標(biāo)識(shí)位置1；在替換時(shí)，首先替換U標(biāo)識(shí)位都為零的緩存線，再替換U標(biāo)識(shí)位為1的緩存線。

為了較好的實(shí)現(xiàn)本發(fā)明，本發(fā)明的另一種技術(shù)方案為：

一種計(jì)算機(jī)緩存系統(tǒng)的管理方法，該緩存系統(tǒng)由多個(gè)緩存線構(gòu)成，且每個(gè)緩存線都包含一個(gè)或多個(gè)數(shù)據(jù)字，同時(shí)每個(gè)緩存線都有一個(gè)命中Hit標(biāo)識(shí)位。其管理步驟為：在緩存線裝載時(shí)，命中Hit標(biāo)識(shí)位被置為0；在緩存線命中時(shí)，命中Hit標(biāo)識(shí)位被置為1；在替換時(shí)，首先替換命中Hit標(biāo)識(shí)位為0的緩存線，再替換命中Hit標(biāo)識(shí)位為1的緩存線；當(dāng)命中Hit標(biāo)識(shí)位為1的緩存線的數(shù)目達(dá)到預(yù)訂的閥值時(shí)，或者命中Hit標(biāo)識(shí)位為1的緩存線滿足預(yù)定的組合邏輯近似條件的設(shè)定時(shí)，清零全部或者部分緩存線的命中Hit標(biāo)識(shí)位。

為了較好的實(shí)現(xiàn)本發(fā)明，上述緩存線分為兩個(gè)或以上的子集，當(dāng)每個(gè)子集中所有緩存線的命中Hit標(biāo)識(shí)位都為1，或者滿足預(yù)定的組合邏輯近似條件的設(shè)定時(shí)，全部或者部分清除該子集的緩存線的命中Hit標(biāo)識(shí)位。

本發(fā)明的第三種技術(shù)方案為：一種計(jì)算機(jī)緩存系統(tǒng)的管理方法，該緩存由多個(gè)緩存線構(gòu)成，且每個(gè)緩存線包含多個(gè)數(shù)據(jù)字，同時(shí)每個(gè)緩存線按地址分成多個(gè)子集，每個(gè)子集對(duì)應(yīng)一個(gè)或者多個(gè)數(shù)據(jù)字；每個(gè)子集設(shè)置一個(gè)或多個(gè)局部Sub-block標(biāo)識(shí)位；當(dāng)緩存查詢和填充等操作采用緩存線子集對(duì)應(yīng)的地址的粒度時(shí)，根據(jù)緩存線子集對(duì)應(yīng)的地址粒度記錄緩存線相應(yīng)子集的狀態(tài)和歷史信息，并將信息保存在該子集對(duì)應(yīng)的局部Sub-block標(biāo)識(shí)位中。

為了較好的實(shí)現(xiàn)本發(fā)明，上述每個(gè)緩存線子集設(shè)置一個(gè)局部使用Sub-blockUsed標(biāo)識(shí)位；整個(gè)緩存線設(shè)置一個(gè)或多個(gè)全局標(biāo)識(shí)位，其管理驟如下：

當(dāng)緩存線第一次裝入緩存時(shí)，除了正在訪問(wèn)的地址所對(duì)應(yīng)的子集的局部使用Sub-block?Used標(biāo)識(shí)位置1，其他子集的局部使用Sub-block?Used標(biāo)識(shí)位置0；當(dāng)緩存線在緩存中命中時(shí)，如果命中的地址所對(duì)應(yīng)的子集的局部使用Sub-block?Used標(biāo)識(shí)位為0，則置1；如果命中的地址所對(duì)應(yīng)的子集的局部使用Sub-block?Used標(biāo)識(shí)位已經(jīng)為1，則改變?nèi)謽?biāo)識(shí)位。