[發明專利]一種高速緩存管理方法、裝置、系統、設備及介質

有效

• 申請號: 202210856082.4
• 申請日: 2022-07-21
• 公開（公告）號: CN114924999B
• 公開（公告）日: 2022-12-09
• 發明（設計）人: 崔健;王江;李樹青;李幸遠;巨新剛;吳睿振
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F12/0877
• 分類號: G06F12/0877;G06F12/0842
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 薛嬌

本發明涉及緩存管理領域，公開了一種高速緩存管理方法、裝置、系統、設備及介質，包括：存儲系統高速緩存管理器接收目標用戶發送的目標操作請求，通過流水線方式處理目標操作請求，以便利用目標操作請求對緩存行執行對應的處理操作；將目標操作請求的處理結果反饋至目標用戶，并通過軟件高速緩存管理器根據處理結果執行對應的高速緩存維護操作。可見，在本方案中，針對實時性要求較低的高速緩存維護操作，可通過軟件高速緩存管理器實現，針對實時性要求較高的操作請求，可通過存儲系統高速緩存管理器以流水線方式并行處理，降低緩存行操作的處理延遲，提高高速緩存管理的實時性。

技術領域

本發明涉及緩存管理技術領域，更具體地說，涉及一種高速緩存管理方法、裝置、系統、設備及介質。

背景技術

在計算機系統中，Cache是一種用于存放少量，且需要被快速訪問的臨時數據的一種存儲器，例如常見的位于CPU（central processing unit，中央處理器）和主存儲器之間的CPU Cache。而在外部存儲系統中，磁盤或者固態硬盤由于其存儲介質的物理特性，擁有各自不同的訪問延遲。這個延遲一般是遠遠大于主存儲器的訪問延遲的。為了加快外部存儲的訪問速度，磁盤或者固態硬盤上一般使用DRAM（Dynamic Random Access Memory，動態隨機存取存儲器）作為盤上數據Cache。更進一步的，對于位置處于磁盤、固態盤和主機CPU之間的存儲加速卡，例如Raid（Redundant Arrays of Independent Disks，磁盤陣列）卡這類設備，為了提高整個存儲系統的性能，也需要具備Cache。

在實踐中，一個外部存儲的Cache管理系統一般至少需要支持以下功能：

1、Cache entry和Cache line的申請和釋放；其中，Cache line為緩存行，是Cache操作的基本單位；Cache entry特指在存儲Cache系統中管理Cache Line的節點，與CacheLine一一對應且指向Cache Line；

2、Cache entry到Cache line的映射；

3、Cache hit/miss的判斷；其中，Cache Hit為Cache 命中，表示某次訪問時，需要被操作的數據在Cache中被找到；Cache Miss為Cache 未命中，表示某次訪問時，需要被操作的數據未在Cache中被找到；

4、保證Cache Line和外部存儲數據的一致性。

在外部存儲系統中，基于CPU軟件實現的Cache管理系統較為常見。一般使用哈希表的形式來組織和存儲Cache Entry。參見圖1，為哈希表示意圖；如圖1所示，多個CacheEntry存放在一個哈希表（Hash Table）中，Hash值（散列，是把任意長度的輸入數據（key）通過散列算法變換成固定長度的輸出，是一種壓縮映射）相同的Cache Entry存放在同一個雙向鏈表中。而屬于同一個存儲介質的（例如硬盤驅動器HDD_0或Logic Drive 0）的CacheEntry使用則使用另外一個雙向鏈表（虛線）連接。哈希表中的每個Cache Entry都指向一條Cache line。

但是，該方案的主要缺點有：

1、軟件負責的Cache管理，包括分配，釋放和Cache hit/miss檢測，往往需要遍歷鏈表，導致耗時較長且時延抖動，對實時性無法保證。

2、當有多個Cache訪問者進行Cache操作時，往往需要軟件使用互斥鎖等機制來串行進行，由于被保護的臨界區耗時較長，使得多個請求需排隊等待，影響了吞吐率，CPU單核性能成為了系統性能瓶頸。

因此，如何降低Cache操作的延遲，提高Cache管理的實時性，是本領域技術人員需要解決的問題。

發明內容