[發明專利]智能緩存及智能終端

有效

• 申請號: 201210022513.3
• 申請日: 2012-02-01
• 公開（公告）號: CN103246542B
• 公開（公告）日: 2017-11-14
• 發明（設計）人: 元西西;毛二坤;陳前;汪堅;田學紅;曾代兵;田萬廷
• 申請（專利權）人: 中興通訊股份有限公司
• 主分類號: G06F9/455
• 分類號: G06F9/455;G06F12/0804
• 代理公司: 北京派特恩知識產權代理有限公司11270
• 代理人: 張振偉,王黎延

技術領域

本發明智能緩存技術，尤其涉及一種利用軟硬件緊密結合的方法實現靈活的、可配置的軟件定義的智能緩存，以及具有上述智能緩存的智能終端。

背景技術

傳統的高速緩存(Cache Memory)利用處理器程序執行的時間或空間局部性，通過將最近和/或經常執行的指令和數據暫存在靠近處理器單元的Cache Memory內，當需要訪問某個指令或數據時先訪問Cache Memory，如果Cache Memory缺失(Miss)，則訪問速度較慢、存儲空間較大的下一級存儲器。

圖1為典型的cache結構示意圖，如圖1所示，由于載入Cache的指令或數據只能根據程序動態執行的情況來實時更新，因此處理器核每次訪存時首先要搜索Cache中的標簽(Tag)陣列，以確認所需指令或數據是否在Cache之中，一旦Cache Miss，查找Tag和數據比較操作都將無效，然后再去訪問下一級存儲器，這樣浪費掉了多個處理器執行周期和Cache功耗。為了增加Cache的命中(Hit)率，通常采用組相聯、復雜的替換算法、預取、推測讀以及層次化的多級Cache結構等，顯然這些性能提升完全是依靠增加硬件復雜度與芯片面積開銷來換取的。由于圖1所示的緩存結構為現有典型的cache結構，這里不再贅述其各部分的功能及其工作原理。

Cache還有一個缺點是Hit與Miss的訪問延遲完全不一樣，無法預測訪存的延遲大小，很多場合引入了緊耦合存儲器(TCM，Tightly Coupled Memory)。TCM是靠近處理器內核的靜態隨機存儲器(SRAM，Static Random Access Memory)，其特點是速度快且延遲固定。TCM的內容不能實時替換、容量固定且一般較小。TCM的刷新完全依賴于軟件調度，刷新TCM之前軟件需要找出何時刷新并進行相應的配置操作，且配置過程中TCM不能被訪問，這都限制了TCM的應用。

內容尋址存儲器(CAM，Content Addressable Memory)是一種專用存儲器，作為通用模塊在針對某些具體應用場景時不能最大限度地發揮其性能，而且是通過將所有存儲條目與輸入條目同時并行比較的方式查詢，這種方式的硬件代價非常大，成本高。

綜上，完全依靠硬件復雜度和功耗或完全依靠軟件的干預來提升性能都是比較困難的，而且處理器執行與訪存的粒度(按指令)比較細，資源被固定的分類和劃分，不僅效率低，且浪費系統的存儲資源。如果將軟硬件緊密結合，根據程序執行情況和數據結構的特征進行靈活的、智能的處理，性能提升空間會更大，性能、功耗、成本等會更平衡。

發明內容

有鑒于此，本發明的主要目的在于提供一種智能緩存及智能終端，能針對具體應用，由軟件靈活定義、配置和重構，能解決傳統Cache的高復雜度、高開銷、高能耗以及延遲不可預測等的弊端，也能解決TCM數據更新的低效以及存儲單元靈活度低、應用面窄的問題。

為達到上述目的，本發明的技術方案是這樣實現的：

一種智能緩存，包括通用接口、軟件定義和重構單元、控制單元、存儲單元和智能處理單元；其中：

通用接口，用于接收來自內核或總線的配置信息、和/或控制信息、和/或數據信息，并返回目標數據；

軟件定義和重構單元，用于根據配置信息將存儲器定義為所需的緩存Cache存儲器；

控制單元，用于控制讀寫Cache存儲器，以及，實時監控指令或數據流，根據系統信息、將要執行的任務的特征以及使用到的數據結構的特性，控制所述存儲單元提前裝載所需數據；

存儲單元，由大量的存儲模塊構成，用于緩存數據；以及，根據所述軟件定義和重構單元的定義，由所述存儲模塊組合成所需的Cache存儲器；

智能處理單元，用于處理輸入輸出數據，將數據在所述控制單元中定義的多個結構之間進行轉移、變換和運算。

優選地，所述所需的Cache存儲器可以配置為包括以下種類存儲器中的至少一個：

緊耦合存儲器TCM、內容尋址存儲器CAM、高速緩存Cache。

優選地，所述通用接口中還包括多核環境下的一致性接口。

優選地，所述軟件定義和重構單元還用于定義多個不同屬性的同類結構的Cache存儲器，所述不同屬性的同類結構Cache存儲器包括以下結構存儲器的至少一種：全相聯的Cache、16路相聯的Cache、4路相聯的Cache、2路相聯的Cache、直接映射的Cache。

優選地，所述軟件定義和重構單元還用于在工作過程中動態重構閑置存儲模塊。