[發(fā)明專利]一種緩存組負(fù)載均衡的方法、裝置和計算機(jī)可讀存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 201711285384.6
• 申請日: 2017-12-07
• 公開（公告）號: CN107861819B
• 公開（公告）日: 2021-07-16
• 發(fā)明（設(shè)計）人: 張德閃;劉偉;陳繼承
• 申請（專利權(quán)）人: 鄭州云海信息技術(shù)有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京集佳知識產(chǎn)權(quán)代理有限公司 11227
• 代理人: 羅滿

本發(fā)明實施例公開了一種緩存組負(fù)載均衡的方法、裝置和計算機(jī)可讀存儲介質(zhì)，依據(jù)訪問地址中攜帶的組號，從所有緩存組中查找該組號對應(yīng)的第一緩存組；判斷第一緩存組中是否存儲有訪問地址對應(yīng)的數(shù)據(jù)；若否，則依據(jù)預(yù)先劃分的聯(lián)合組，查找相關(guān)聯(lián)的第二緩存組，并判斷第一緩存組是否達(dá)到飽和狀態(tài)以及第二緩存組的剩余存儲空間是否滿足預(yù)設(shè)條件；當(dāng)這兩個條件均滿足時，則將第一緩存組中優(yōu)先級最低的緩存行存儲的數(shù)據(jù)轉(zhuǎn)移至第二緩存組中，并將訪問地址對應(yīng)的數(shù)據(jù)存儲于第一緩存組中。通過將緩存組進(jìn)行聯(lián)合，可以將壓力較大的緩存組中的數(shù)據(jù)轉(zhuǎn)移至壓力較小的緩存組中，有效地解決片上緩存組間壓力不均勻的問題，提高了緩存組的利用率以及緩存命中率。

技術(shù)領(lǐng)域

本發(fā)明涉及數(shù)據(jù)緩存技術(shù)領(lǐng)域，特別是涉及一種緩存組負(fù)載均衡的方法、裝置和計算機(jī)可讀存儲介質(zhì)。

背景技術(shù)

相比于片上的中央處理器(Central Processing Unit，CPU)，片外主存的高延遲和低帶寬一直是影響系統(tǒng)性能的瓶頸。為減輕片外主存和CPU的性能差距，芯片內(nèi)部都設(shè)有緩存空間，存放那些可能被頻繁訪問的指令和數(shù)據(jù)，以減少對片外主存的訪問。因此，能否有效地利用片上緩存的空間資源，對系統(tǒng)的性能起著至關(guān)重要的作用。

片上緩存通常都采用組相聯(lián)(set-associative)的映射方式，緩存分為多個組(set)，每組包含相同的路數(shù)(way)，每一路緩存區(qū)域即為一個緩存行。路數(shù)的取值通常為2的冪次方，比如8路或16路。

當(dāng)前緩存通常采用最近最少使用(Least Recently Used，LRU)管理策略進(jìn)行管理，其可分為三個子策略：1)插入策略，第一次訪問的數(shù)據(jù)被插入到對應(yīng)緩存組的最高優(yōu)先級的緩存行中；2)提升策略，緩存組中某個緩存行被訪問命中，就把命中的緩存行提升到當(dāng)前組的最高優(yōu)先級位置；3)替換策略，緩存組的所有緩存行都已被填充數(shù)據(jù)，當(dāng)需要插入新的數(shù)據(jù)時，選擇把最低優(yōu)先級位置的緩存行數(shù)據(jù)替換出當(dāng)前緩存組。

基于當(dāng)前緩存組的緩存設(shè)計，主存訪問的壓力在片上緩存組間并非都是均勻分布。在程序執(zhí)行期間，某些緩存組被頻繁訪問，承擔(dān)的工作集超過其緩存組的容量，導(dǎo)致其命中率很低；而有些緩存組的某些緩存行可能并沒有被有效地利用，存在資源浪費的現(xiàn)象。

針對這種組間壓力不均勻的問題，一種比較直觀的解決方法是增加組相連度，即增大緩存組的路數(shù)，比如先前8路，可增大至16路。這種增加組相連度的方式，就像把兩個組進(jìn)行合并，以分?jǐn)們蓚€組的工作集，達(dá)到低壓力的緩存組分擔(dān)高壓力緩存組的目的。然而，這種增加組相連度的方式，不僅會增加緩存訪問的延遲和能耗，而且會導(dǎo)致緩存管理的復(fù)雜度上升。并且增加組相連度并不會提高緩存組總的命中率。

可見，如何解決片上緩存組間壓力不均勻的問題，是本領(lǐng)域技術(shù)人員亟待解決的問題。

發(fā)明內(nèi)容

本發(fā)明實施例的目的是提供一種緩存組負(fù)載均衡的方法、裝置和計算機(jī)可讀存儲介質(zhì)，可以解決片上緩存組間壓力不均勻的問題，提高緩存組的利用率以及緩存命中率。

為解決上述技術(shù)問題，本發(fā)明實施例提供一種緩存組負(fù)載均衡的方法，包括：

依據(jù)訪問地址中攜帶的組號，從所有緩存組中查找所述組號對應(yīng)的第一緩存組；

判斷所述第一緩存組中是否存儲有所述訪問地址對應(yīng)的數(shù)據(jù)；

若所述第一緩存組中未存儲所述訪問地址對應(yīng)的數(shù)據(jù)，則依據(jù)預(yù)先劃分的聯(lián)合組，查找與所述第一緩存組相關(guān)聯(lián)的第二緩存組；

判斷所述第一緩存組是否達(dá)到飽和狀態(tài)，并且所述第二緩存組的剩余存儲空間是否滿足預(yù)設(shè)條件；

若是，則將所述第一緩存組中優(yōu)先級最低的緩存行存儲的數(shù)據(jù)轉(zhuǎn)移至所述第二緩存組中，并將所述訪問地址對應(yīng)的數(shù)據(jù)存儲于所述第一緩存組中。

可選的，所述聯(lián)合組的劃分過程包括：