[發明專利]緩存和方法

有效

• 申請號: 201780008604.2
• 申請日: 2017-02-03
• 公開（公告）號: CN109074313B
• 公開（公告）日: 2023-06-09
• 發明（設計）人: A·馬丁內斯德拉托雷;E·利蘭;T·里克特
• 申請（專利權）人: 斯瓦姆64有限責任公司
• 主分類號: G06F12/0864
• 分類號: G06F12/0864;G06F12/0895;G06F12/0897
• 代理公司: 深圳市百瑞專利商標事務所(普通合伙) 44240
• 代理人: 金輝

公開了一種n級緩存和方法。n級緩存方法包括：響應于識別要訪問的數據塊的地址的數據訪問請求，詢問n級緩存的地址緩存，用于存儲為存儲在n級緩存的主緩存中的數據塊子集而設的地址部分，以確定針對該地址在地址緩存內是否發生緩存命中。以這種方式，提供與主緩存分離的地址緩存，其中地址緩存存儲與存儲在主緩存中的數據塊有關的地址部分，減少了需要存儲在地址緩存中的數據量，并將地址緩存的大小與主緩存的大小分離，這使得地址緩存的大小可以與存儲在主緩存中的數據塊的大小無關。這提供了地址的緩存，該緩存可以明顯更小、更快并且可以容易地與數據處理裝置的其他部件定位，同時允許數據存儲在主緩存中的其他位置，該主緩存可以更大、更慢并且更遠離數據處理裝置的其他部件定位。

技術領域

本發明涉及緩存、方法和計算機程序產品。

背景技術

緩存是已知的。緩存通常用于提供數據值的本地存儲以供至少一個處理器內核使用；這些數據值可以是指令以及數據。已知提供緩存以便在執行指令序列時改善處理器內核的性能，因為緩存可以提供數據值的本地副本，使得這些數據值在需要時可由處理器內核使用，而不是必須訪問較慢的存儲器。

為了保持快速訪問時間、最小化空間并降低功耗，緩存的大小通常是有限的。鑒于緩存的有限大小，很明顯將會出現緩存變滿并且需要覆蓋寫入緩存中的數據值的時候。

當提供的緩存是所謂的“n”路集關聯緩存時，可以在“n”路中的任何一個中以適當的索引寫入數據值。存在分配算法，其確定應該分配哪個“n”路來存儲數據值。

盡管緩存可以幫助改善處理器內核的性能，但是在某些情況下難以提供為這種性能改進而提供的緩存布置。

因此，期望提供一種改進的緩存布置。

發明內容

根據第一方面，提供了一種n級緩存方法，包括：響應于識別要訪問的數據塊的地址的數據訪問請求，詢問n級緩存的地址緩存，用于存儲為存儲在n級緩存的主緩存中的數據塊子集而設的地址部分，以確定為地址而設的地址緩存內是否發生緩存命中。

第一方面認識到可能出現這樣的情況，即由緩存存儲的數據塊可能非常大。如果保持緩存的大小，則可以緩存的數據塊的數量減少到緩存未命中率增加到不可接受的水平的程度。在一些情況下，數據塊的大小(以及甚至地址所需的存儲大小)可能非常大，以致甚至無法將那些數據塊(或地址)存儲在傳統的架構緩存中。盡管可以將數據塊存儲在更大的存儲器中，但是更大的存儲器通常需要更遠離處理器內核，因此訪問該存儲器將更慢，這又會導致性能下降。

因此，提供了一種方法。該方法可以用于n級緩存。也就是說，該方法可以由存儲器系統內的緩存級別之一來執行。該方法可以包括詢問在n級緩存內提供的地址緩存的步驟，安排n級緩存的地址緩存來存儲地址部分，例如完整地址的成分或一部分。地址緩存可以安排來存儲用于存儲在n級緩存的主緩存中的數據塊的子集或完整數量的一部分的地址部分。詢問可以響應于或在接收到數據訪問請求后發生，或者在接收到數據訪問請求時發生。數據訪問請求可以標識要在n級緩存內待訪問的數據塊的地址。詢問可以確定是否在針對該地址的地址緩存內發生緩存命中。也就是說，詢問可以確定地址緩存是否具有針對該地址的匹配條目。以這種方式，提供與主緩存分離的地址緩存，其中地址緩存存儲與存儲在主緩存中的數據塊有關的地址部分，減少了需要存儲在地址緩存中的數據量，并將地址緩存的大小與主緩存的大小分離，這使得地址緩存的大小可以與存儲在主緩存中的數據塊的大小無關。這提供了地址的緩存，該緩存可以明顯更小、更快并且可以容易地與數據處理裝置的其他部件定位，同時允許數據存儲在主緩存中的其他位置，該其他位置可以更大、更慢并且更遠離數據處理裝置的其他部件定位。

在一個實施例中，地址緩存在芯片上，主緩存在芯片外。因此，因為地址緩存很小，所以它可以是芯片上的，具有例如低級緩存和任何處理器內核或其他主機設備。相反，主緩存可以位于芯片外，位于較大的存儲器中，該存儲器能夠存儲比可能需要存儲在片上存儲器中的數據塊更大的數據塊。