[發明專利]緩存一致性處理方法和裝置

在審

• 申請號: 201610878873.1
• 申請日: 2016-09-30
• 公開（公告）號: CN107894914A
• 公開（公告）日: 2018-04-10
• 發明（設計）人: 崔曉松;陳云;蔡毅;黃勤業
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06F9/455
• 分類號: G06F9/455
• 代理公司: 暫無信息
• 代理人: 暫無信息

技術領域

本發明涉及云計算技術領域，尤其涉及片上多核處理器中的緩存一致性(Cache Coherency)處理技術。

背景技術

片上多核處理器(英文：Chip Multi-processors,簡稱：CMPs)架構成為處理器設計的主流架構，它由許多處理器核(Core)通過路由器(英文：Router)構成的片上網絡(英文：Network on chip，簡稱：NoC)連接構成。芯片中的緩存(Cache)是按照分級來設計的，其中，L1緩存(英文：Level-1cache)是私有緩存，它被設計在處理器核內部，其中存儲的數據塊僅能由該處理器核訪問；L2緩存(英文：Level-2cache)是共享緩存，其中存儲的數據塊為共享數據塊，可由多個處理器核訪問，一般可采用集中式的方式被設計在處理器核外部，或者被分布地設計在各個處理器核的附近，即按照物理上分布于各個處理器核附近并通過片上網絡進行互連，邏輯上可進行共享。

在片上多核處理器的應用中，存在一些數據塊被該處理器中的一個或者多個處理器核訪問的場景。對于該場景，通常會將該數據塊存儲在共享緩存中，以便一個或多個處理器核能夠訪問。為了加速數據塊的訪問，在訪問過該數據塊的一個或多個處理器核的私有緩存中創建該數據塊的拷貝，這樣當訪問過該數據塊的某一核需要重新訪問該數據塊時，只需要到該核的私有緩存中進行該數據塊的讀取。因為在被訪問的一個或者多個處理器核的私有緩存中存有該數據塊的拷貝，就需要維護該數據塊在多個核的私有緩存中的拷貝之間一致性，解決拷貝之間一致性問題被稱為緩存一致性(Cache Coherence)問題。解決該緩存一致性問題的基本原理是當某一個核中該數據塊的拷貝被修改時，其他存儲有該數據塊拷貝的處理器核需要進行一致性操作(即更新其他核中該數據塊的拷貝或刪除該數據塊在其他核中的拷貝)，這就需要確定該數據塊在該多核處理器中的哪些核存在拷貝。

解決緩存一致性的具體方式主要包括：基于目錄(Directory)的一致性協議和基于偵聽(Snooping)的一致性協議。其中，基于目錄的一致性協議是采用目錄來記錄數據塊被哪些處理器核訪問，當需要進行一致性維護時，通過查詢目錄的表項，確定存儲有該數據塊的拷貝的處理器核，然后對相應的處理器核內的該數據塊進行一致性操作；基于偵聽的一致性協議是采用所有處理器核偵聽總線的方式，即當某個處理器核修改了其私有緩存中的某一數據塊后，在總線上廣播該一致性維護消息，使得其他存儲有該數據塊拷貝的處理器核進行一致性操作。

隨著云計算的發展，資源池的概念應運而生，原來服務器的資源(處理器、內存、網絡IO端口等)被分配給1個或者多個虛擬機使用，通過資源管理軟件，可以為虛擬機分配這些資源。在云計算場景下，分配給虛擬機的處理器資源如何實現緩存一致性是業界面臨的問題。

發明內容

本文描述了一種緩存一致性處理方法和裝置，以實現緩存一致性處理以及片上多核處理器的通信以及面積開銷的平衡。

一方面，本申請的實施例提供一種緩存一致性處理方法。方法應用于片上多核處理器，包括第一路由器接收與其直接相連的第一處理器核發送的一致性維護請求，該一致性維護請求攜帶第一處理器核的標識；根據第一處理器核的標識查詢預設的一致性維護表項，生成針對該第一處理器核所屬的一致性區域的一致性維護命令；將生成的一致性維護命令通過片上網絡發送給上述一致性區域的其他處理器核。采用上述的方式，能夠使得一致性維護僅在發生緩存數據塊寫操作的一致性區域完成，從而避免了全局一致性維護所帶來的開銷。

在一種可能的設計中，第一路由器根據所述第一處理器核的標識查詢預設的一致性維護表項，獲取所述第一處理器核所屬一致性區域的標識，以及位于所述一致性區域內其他處理器核的標識；以及第一路由器根據所述第一處理器核所在一致性區域的標識，以及位于所述一致性區域內其他處理器核的標識，生成針對所述一致性區域的一致性維護命令。

在一種可能的設計中，第一路由器根據片上網絡拓撲狀態，以及上述一致性區域內其他處理器核的標識，確定至少一條路由傳輸路徑，其中，每條路由傳輸路徑由和一致性區域內其他處理器核相連的路由器組成；針對每條路由傳輸路徑，第一路由器對上述一致性維護命令進行重構處理，生成針對該條路由傳輸路徑的一致性維護命令；利用每條路由傳輸路徑，將針對該條路由傳輸路徑的一致性維護命令發送給該路由傳輸路徑上的處理器核。采用這種路由定向傳輸的方式，能夠避免通過廣播方式所帶來的片上網絡存在的廣播風暴風險，有效地降低了片上網絡所包括的路由器的壓力。