[發明專利]用于線程本地存儲數據訪問的私有高速緩存

有效

• 申請號: 201880048304.1
• 申請日: 2018-07-19
• 公開（公告）號: CN110959154B
• 公開（公告）日: 2023-06-13
• 發明（設計）人: 蔣曉維
• 申請（專利權）人: 阿里巴巴集團控股有限公司
• 主分類號: G06F12/0808
• 分類號: G06F12/0808;G06F12/0811;G06F12/084;G06F12/128
• 代理公司: 北京清源匯知識產權代理事務所(特殊普通合伙) 11644
• 代理人: 馮德魁;竇曉慧

多內核CPU包括與多個內核互連的最后一級高速緩存(LLC)。LLC可以包括共享部分和私有部分。共享部分可以被多個內核共享。私有部分可以連接到多個內核中的第一內核，并且可以專門分配給第一內核。第一內核可以被配置為發起數據訪問請求以訪問存儲在LLC中的數據。第一內核可以基于確定數據訪問請求是TLS類型的訪問請求來將數據訪問請求路由到私有部分，并且基于確定數據訪問請求不是TLS類型的訪問請求來將數據訪問請求路由到共享部分。

技術領域

本申請涉及計算機體系結構，更具體地，涉及具有用于線程本地存儲(TLS)類型的數據訪問的私有高速緩存的中央處理單元(CPU)以及由這種CPU利用私有高速緩存執行的數據訪問方法。

背景技術

諸如基于x86架構設計的CPU之類的商用CPU通常在CPU內核與主存儲器(例如，動態隨機存取存儲器(DRAM))之間采用分層高速緩存結構。高速緩存結構可以包括多個級別的高速緩存，范圍從快速但較小的(即，低存儲容量)較低級別的高速緩存到慢速但較大的(即，高存儲容量)較高級別的高速緩存。CPU通過多級別高速緩存來執行數據訪問(例如，從存儲器中加載/讀取數據或將數據存儲/寫入到存儲器)以減少延時并提高數據訪問速度。例如，當CPU執行讀取/加載操作時，CPU首先在最低級別的高速緩存中查找數據的副本。如果找到了副本(也稱為“命中”)，則CPU從最低級別的高速緩存中獲取副本，而無需訪問較高級別的高速緩存或主存儲器。如果在最低級別的高速緩存中也找不到該副本(也稱為“未命中”)，則CPU在下一個更高級別的高速緩存中查找副本，并在所有級別的高速緩存中重復該過程。如果在所有級別的緩存中均未找到該數據，則CPU從主存儲器中獲取數據。

在多級高速緩存中，最后一級高速緩存(LLC)通常在x86體系結構中位于第三級，因此它也可以稱為L3高速緩存。LLC通常具有幾十兆字節(MB)的大小，并且與較低級別的高速緩存(例如，一級(L1)和二級(L2)高速緩存)相比，會導致相對長的訪問延時。在現有的商用(例如，現成的)多內核CPU中，LLC通常被分成較小的片，并在多個CPU內核之間分布和互連。例如，每個片連接到一個內核。單個數據以分布的方式跨多個片存儲，因此跨多個內核存儲。這種設計允許整個LLC容量由多個內核共享。但這也會增加LLC的命中延時并增加功耗。這是因為CPU內核必須經歷多跳才能從連接到其他內核的LLC片中獲取同一數據的一部分，而不管數據是否為單個內核專用。多跳會導致延時和功耗，考慮到在數十萬個CPU始終運行的數據中心環境中的累積效應，這是很重要的。

發明內容

在一些方面，本公開涉及CPU。CPU可以包括多個內核。CPU還可以包括與多個內核互連的LLC。LLC可以包括共享部分和私有部分。共享部分可以被多個內核共享。私有部分可以連接到多個內核中的第一內核，并且可以專門分配給第一內核。第一內核可以被配置為發起數據訪問請求以訪問存儲在LLC中的數據。第一內核還可以被配置為基于與數據訪問請求相關聯的注釋來確定數據訪問請求是否是線程本地存儲(TLS)類型的訪問請求。另外，第一內核可以被配置為基于確定數據訪問請求是TLS類型的訪問請求來將數據訪問請求路由到私有部分，并且基于確定數據訪問請求不是TLS類型的訪問請求來將數據訪問請求路由到共享部分。

在一些其它方面，本公開涉及由包括多個內核的CPU執行的訪問與所述多個內核互連的LLC中存儲的數據的方法。該方法可以包括發起數據訪問請求以及基于與數據訪問請求相關聯的注釋來確定數據訪問請求是否是TLS類型的訪問請求。該方法還可以包括響應于確定數據訪問請求是TLS類型的訪問請求，將數據訪問請求路由到LLC的私有部分。私有部分連接到第一內核，并且專門分配給第一內核。該方法還可以包括當響應于確定數據訪問請求不是TLS類型的訪問請求，將數據訪問請求路由到LLC的共享部分。共享部分由多個內核共享。