[發明專利]一種數據替換方法、裝置、電子設備及存儲介質

在審

• 申請號: 202210181764.X
• 申請日: 2022-02-25
• 公開（公告）號: CN114610656A
• 公開（公告）日: 2022-06-10
• 發明（設計）人: 劉蘇;蘇孟豪;黃帥
• 申請（專利權）人: 龍芯中科技術股份有限公司
• 主分類號: G06F12/0877
• 分類號: G06F12/0877;G06F12/0895
• 代理公司: 北京潤澤恒知識產權代理有限公司 11319
• 代理人: 蘇培華

本發明實施例提供了一種數據替換方法和裝置。該方法包括：根據第一訪問請求中攜帶的第一塊流式數據標識，將所述第一訪問請求對應的目標緩存行的替換優先級變更為優先不替換，當緩存行需要進行數據替換時，根據緩存行的替換優先級，優先對除優先不替換的所述目標緩存行之外的緩存行進行數據替換，使得在流式數據剛開始被使用時，將存儲流式數據的目標緩存行變更為優先不替換，防止后續的流式數據未被使用就被替換，避免了不恰當的緩存行的數據替換，減少了性能損失。

技術領域

本發明涉及計算機技術領域，特別是涉及一種數據替換方法、一種數據替換裝置、一種電子設備以及一種可讀存儲介質。

背景技術

高速緩存(cache)是介于中央處理器核(Central Processing Unit，CPU)和主存儲器(內存)之間的具有較快速度的存儲器，用于將主存儲器的部分內容緩存。相對于直接訪問主存儲器，高速緩存可為處理器核提供更快的訪問速度。在現代計算機系統中，不局限于中央處理器核，圖形處理器(Graphics Processing Unit，GPU)和其他IO(Input andOutput，輸入輸出)設備亦可使用高速緩存來提高訪問內存的性能。例如，GPU可自帶cache或與CPU共享cache，IO設備控制器可通過直接緩存訪問(Direct cache access，DCA)等方式來訪問cache。

cache存儲的內容是內存的一部分，因此在將內存存儲的數據調入cache時，需要有一定的規則來規定特定地址的數據放在cache中的位置，稱為映射方式。常見的映射方式包括全相聯、直接相聯和組相聯，全相聯表示內存中的數據塊可以放在cache中的任意位置，直接相聯表示內存中的數據塊在cache中都有唯一的位置，組相聯介于全相聯和直接相聯之間，內存中的數據塊在cache中的每一組中有一個可用的位置。當今的計算機系統中的cache多使用組相聯方式，每一“組”也可稱作“路”。例如，若cache包含4組，則稱為四路組相聯。

當內存中有新的數據要調入cache時，需要將cache中原有的一塊數據(即cache行)進行替換，在四路組相聯cache中，即需要從4路中選擇一路進行替換。常見的替換策略包括隨機替換、最近最少使用(Least Recently Used，LRU)替換、先進先出(First InputFirst Output，FIFO)替換等。

不同的替換策略會顯著影響cache的性能，不佳的替換選擇會導致整個系統性能的下降。例如，若某cache行被替換后需要再次被使用，則需要重新從內存中調入，帶來可觀的性能損失；若某cache行保留在cache中，但不會被再次使用，則相當于減小了cache容量，也會帶來性能損失。

在計算機系統中，有許多流式數據會被使用，例如CPU的內存拷貝、IO控制器的數據傳輸等。這些流式數據具有鮮明的特點：其生產者和消費者常常只各使用該數據一次，即重用率低；當這類數據使用cache時，其生產者和消費者對數據的訪問往往在很短的時間間隔內完成，即重用時間較短；流式數據的數據量較大，不恰當的cache替換策略可能導致性能下降。

經本申請人研究表明，現有技術中，存在著未被使用的流式數據卻被替換的問題。

發明內容

本發明實施例所要解決的技術問題是提供一種數據替換方法、裝置、電子設備及可讀存儲介質，以便解決未被使用的流式數據卻被替換的問題。

為了解決上述問題，本發明提供了一種數據替換方法，包括：

根據第一訪問請求中攜帶的第一塊流式數據標識，將所述第一訪問請求對應的目標緩存行的替換優先級變更為優先不替換；其中，所述第一訪問請求對應的目標緩存行為所述第一訪問請求所請求的流式數據所在的緩存行；

當緩存行需要進行數據替換時，根據緩存行的替換優先級，優先對除優先不替換的所述目標緩存行之外的緩存行進行數據替換。