[發(fā)明專利]一種多核處理器系統(tǒng)的目錄緩存管理方法

有效

• 申請?zhí)枺?/td>: 201410645205.5
• 申請日: 2014-11-12
• 公開（公告）號: CN104331377B
• 公開（公告）日: 2018-06-26
• 發(fā)明（設(shè)計）人: 唐士斌;陳繼承;王洪偉;倪璠
• 申請（專利權(quán)）人: 浪潮（北京）電子信息產(chǎn)業(yè)有限公司
• 主分類號: G06F12/0871
• 分類號: G06F12/0871
• 代理公司: 北京安信方達(dá)知識產(chǎn)權(quán)代理有限公司 11262
• 代理人: 王丹;李丹

本發(fā)明公開了一種多核處理器系統(tǒng)的目錄緩存管理方法，包括以下步驟：利用內(nèi)存地址的緩存塊索引位對目錄緩存進(jìn)行劃分；于系統(tǒng)物理內(nèi)存分配時，通過為不同并行單元的數(shù)據(jù)分配不同的緩存塊索引位，控制所述并行單元所占用的目錄緩存容量。本發(fā)明公開的多核處理器系統(tǒng)的目錄緩存管理方法，能夠解決由于目錄緩存的容量有限，不同并行單元的數(shù)據(jù)在目錄緩存中的沖突造成系統(tǒng)性能降低的問題。

技術(shù)領(lǐng)域

本發(fā)明涉及多核處理器系統(tǒng)，尤其涉及一種多核處理器系統(tǒng)的目錄緩存管理方法。

背景技術(shù)

隨著半導(dǎo)體工藝技術(shù)的進(jìn)步，片上晶體管的數(shù)目依舊符合摩爾定律，每36個月翻一番。然而受限于處理器散熱與封裝技術(shù)的限制，商業(yè)串行處理器已經(jīng)遇到了進(jìn)一步提升性能的瓶頸。為了獲得更好的性能面積比與性能功耗比，依靠挖掘線程級并行的片上多處理器與多核處理器成為目前的主流的架構(gòu)。

其中，私有緩存是提升多核處理器性能的重要組件，維護(hù)私有緩存數(shù)據(jù)的一致性是多核處理器設(shè)計中的重點與難點?；趥陕牭膮f(xié)議與基于目錄的協(xié)議是目前最常用的兩種緩存一致性協(xié)議?；趥陕牭膮f(xié)議，設(shè)計簡單，通過廣播的方式通知所有的私有數(shù)據(jù)備份來維護(hù)數(shù)據(jù)一致性，但是廣播的網(wǎng)絡(luò)開銷巨大，使其不具備可擴(kuò)展性?；谀夸浀膮f(xié)議，通過集中式的目錄記錄所有的內(nèi)存塊在私有緩存中的備份情況，避免了廣播的開銷，更適合大規(guī)模的并行系統(tǒng)。

在基于目錄的緩存一致性協(xié)議中，為了維護(hù)私有數(shù)據(jù)的一致性，處理器每次內(nèi)存訪問都首先要訪問目錄，因此其訪問延遲對多核處理器的性能極為重要。為了降低訪問延遲，研究人員采用了片上目錄緩存來維護(hù)一致性。與目錄記錄整個內(nèi)存的備份情況不同，片上目錄緩存僅記錄處理器內(nèi)部私有緩存中的數(shù)據(jù)備份情況，片上目錄緩存的容量對執(zhí)行負(fù)載程序的性能極為關(guān)鍵。

圖1所示多核處理器系統(tǒng)的結(jié)構(gòu)示意圖。圖2所示為圖1所示處理器一次訪存流程圖。如圖1所示，多核處理器例如由四個Tile組成，每個Tile包括一個處理器核、一個L1Cache與一個L2Cache，每個Tile通過內(nèi)部網(wǎng)絡(luò)共享L3Cache。目錄緩存(DirectoryCache)與L3Cache同層用來維護(hù)該處理器內(nèi)部的一致性。處理器通過外部網(wǎng)絡(luò)與內(nèi)存(DDR)以及其他處理器相連。如圖2所示，處理器核執(zhí)行訪存指令，經(jīng)過流水線通過訪存部件發(fā)到L1Cache，如果L1Cache命中則返回數(shù)據(jù)，如果L1Cache缺失則將數(shù)據(jù)請求發(fā)往L2Cache。請求在L2Cache查找，如果L2Cache命中則返回數(shù)據(jù)，如果L2Cache缺失則發(fā)往目錄緩存。在目錄緩存中查找，如果命中則根據(jù)緩存一致性協(xié)議維護(hù)私有緩存的數(shù)據(jù)一致性，如果缺失，則在目錄緩存中尋找一個空閑位置，如果沒有空閑位置，則執(zhí)行替換，執(zhí)行替換過程中需要使無效私有緩存中的數(shù)據(jù)備份。最后，從L3Cache或者DDR中獲取數(shù)據(jù)并返回。

由于片上目錄緩存的容量問題是隨著處理器內(nèi)部的核數(shù)快速增長而出現(xiàn)的，目前相關(guān)研究尚處于起步階段，主要的研究工作集中在降低目錄緩存的面積、避免組內(nèi)沖突、避免私有數(shù)據(jù)的使無效消息等。然而，針對目錄緩存的數(shù)據(jù)隔離與容量控制的研究工作，目前仍是空白。

發(fā)明內(nèi)容

本發(fā)明提供一種多核處理器系統(tǒng)的目錄緩存管理方法，用來解決由于目錄緩存的容量有限，不同并行單元的數(shù)據(jù)在目錄緩存中的沖突造成系統(tǒng)性能降低的問題。

為了解決上述技術(shù)問題，本發(fā)明提供一種多核處理器系統(tǒng)的目錄緩存管理方法，包括以下步驟：利用內(nèi)存地址的緩存塊索引位對目錄緩存進(jìn)行劃分；于系統(tǒng)物理內(nèi)存分配時，通過為不同并行單元的數(shù)據(jù)分配不同的緩存塊索引位，控制所述并行單元所占用的目錄緩存容量。

進(jìn)一步地，所述利用內(nèi)存地址的緩存塊索引位對目錄緩存進(jìn)行劃分的過程包括：在目錄緩存中，將內(nèi)存地址分成Tag-Index-Offset三段，其中，Tag是內(nèi)存地址的標(biāo)簽，用來決定所述內(nèi)存地址是否在目錄緩存中命中，Index是一組緩存塊的索引位，Offset是緩存塊的偏移。