[發(fā)明專利]多處理器系統(tǒng)中的中繼一致存儲(chǔ)器管理

在審

• 申請(qǐng)?zhí)枺?/td>: 201880038296.2
• 申請(qǐng)日: 2018-04-10
• 公開（公告）號(hào): CN110741356A
• 公開（公告）日: 2020-01-31
• 發(fā)明（設(shè)計(jì)）人: W·諾雷丁;J-M·弗雷郎;P·辛德胡;B·塞萊特
• 申請(qǐng)（專利權(quán)）人: 芬基波爾有限責(zé)任公司
• 主分類號(hào): G06F12/0815
• 分類號(hào): G06F12/0815;G06F12/0804;G06F9/52
• 代理公司: 11256 北京市金杜律師事務(wù)所
• 代理人: 辛鳴

描述了用于存儲(chǔ)器管理的方法和裝置。在所公開的實(shí)施例中，一種系統(tǒng)具有第一處理器和第二處理器，其中每個(gè)處理器能夠訪問(wèn)存儲(chǔ)器系統(tǒng)。第一工作單元被接收以用于由第一處理器執(zhí)行，其中存儲(chǔ)器系統(tǒng)被訪問(wèn)。在第一工作單元的執(zhí)行時(shí)，第二工作單元被生成以用于由第二處理器執(zhí)行。僅在存儲(chǔ)器系統(tǒng)被更新之后，由第二處理器對(duì)第二工作單元的處理才發(fā)生。這種基于工作單元消息的排序?yàn)槎鄠€(gè)處理器的存儲(chǔ)器操作提供了中繼一致性。

交叉引用

本申請(qǐng)要求于2017年4月10日提交的美國(guó)臨時(shí)專利申請(qǐng)第62/483,844號(hào)和于2018年2月2日提交的美國(guó)臨時(shí)專利申請(qǐng)第62/625,518號(hào)的權(quán)益，每個(gè)申請(qǐng)的全部?jī)?nèi)容通過(guò)引用整體并入本文。

技術(shù)領(lǐng)域

本公開涉及例如在聯(lián)網(wǎng)和存儲(chǔ)領(lǐng)域中用于處理信息的分組的多處理器系統(tǒng)。

背景技術(shù)

網(wǎng)絡(luò)設(shè)備(例如，防火墻、交換機(jī)、路由器、存儲(chǔ)裝置/計(jì)算服務(wù)器或其他網(wǎng)絡(luò)連接設(shè)備)通常利用多核處理器系統(tǒng)或多處理單元系統(tǒng)來(lái)實(shí)現(xiàn)提高的性能。然而，利用具有多個(gè)處理單元的系統(tǒng)來(lái)處理諸如網(wǎng)絡(luò)分組數(shù)據(jù)的流可能帶來(lái)很多編程挑戰(zhàn)。例如，通常難以將一個(gè)分組或一組分組的處理從一個(gè)處理單元移動(dòng)到另一處理單元，諸如為了跨處理單元的負(fù)載平衡。將程序執(zhí)行從一個(gè)處理單元轉(zhuǎn)換到另一處理單元可能很困難，并且通常需要蠻力移動(dòng)或狀態(tài)的映射、高速緩存的數(shù)據(jù)以及與程序執(zhí)行相關(guān)聯(lián)的其他存儲(chǔ)器塊。在實(shí)現(xiàn)高吞吐量和利用率的同時(shí)保持跨處理單元的高速緩存的數(shù)據(jù)和其他存儲(chǔ)器的一致性通常在技術(shù)上極具挑戰(zhàn)。例如，當(dāng)使用相干存儲(chǔ)器時(shí)，由存儲(chǔ)器相干協(xié)議執(zhí)行的操作可能導(dǎo)致顯著的處理開銷和延遲。當(dāng)使用非相干存儲(chǔ)器時(shí)，相干協(xié)議的開銷被避免，但是某些處理單元可能無(wú)法訪問(wèn)由另一處理單元高速緩存的數(shù)據(jù)。

例如，存儲(chǔ)器可以在具有兩個(gè)或更多個(gè)同時(shí)運(yùn)行的處理器的多處理器或多核系統(tǒng)中被共享，每個(gè)處理器具有一個(gè)或多個(gè)本地存儲(chǔ)器高速緩存。然而，如果一個(gè)處理器或核改變特定存儲(chǔ)器位置處的數(shù)據(jù)，則通常存在用以將改變通知給所有處理器或核以使相應(yīng)的本地存儲(chǔ)器高速緩存無(wú)效或利用已更新信息刷新高速緩存的過(guò)程。這種過(guò)程通常被稱為存儲(chǔ)器相干協(xié)議，并且根據(jù)該協(xié)議操作的存儲(chǔ)器被稱為相干存儲(chǔ)器。通常，支持相干存儲(chǔ)器需要跟蹤高速緩存行狀態(tài)并且處理針對(duì)被高速緩存在處理器或處理核以及系統(tǒng)的其他元件內(nèi)的所有存儲(chǔ)器塊的相關(guān)聯(lián)的事務(wù)。

相反，非相干存儲(chǔ)器不提供跟蹤和更新數(shù)據(jù)以保持高速緩存相干性。在沒(méi)有與傳統(tǒng)相干存儲(chǔ)器系統(tǒng)相關(guān)聯(lián)的處理開銷和延遲的情況下，存儲(chǔ)器訪問(wèn)和利用可以非常快速和高效。存在大量的應(yīng)用不能從相干存儲(chǔ)器系統(tǒng)受益，特別是那些線性地處理數(shù)據(jù)的應(yīng)用(例如，處理一次，因此訪問(wèn)的時(shí)間局部性很差)。這些“流”應(yīng)用(諸如聯(lián)網(wǎng)和存儲(chǔ)基礎(chǔ)結(jié)構(gòu)工作負(fù)載)在大型數(shù)據(jù)中心中變得越來(lái)越重要。對(duì)于這樣的應(yīng)用，使用相干存儲(chǔ)器系統(tǒng)往往會(huì)導(dǎo)致大量開銷，而回報(bào)卻很少。

發(fā)明內(nèi)容

描述了這樣的技術(shù)，其中具有多個(gè)處理單元的系統(tǒng)在處理流水線中處理一系列工作單元，其中一些或所有工作單元訪問(wèn)或操縱被存儲(chǔ)在非相干存儲(chǔ)器中的數(shù)據(jù)。在一些示例中，處理單元可以是處理核，并且在其他示例中，處理單元可以是虛擬處理器、硬件線程、硬件塊或其他子處理核單元。如本文所述，處理單元可以對(duì)由工作單元指定的數(shù)據(jù)執(zhí)行操作。在處理工作單元時(shí)，處理單元可以將來(lái)自非相干存儲(chǔ)器的數(shù)據(jù)高速緩存到與處理單元相關(guān)聯(lián)的高速緩存的段中，并且使用該高速緩存的數(shù)據(jù)執(zhí)行由工作單元指定的操作。一旦工作單元已經(jīng)完成了處理，處理單元就可以針對(duì)該段(或該段的一部分)發(fā)起高速緩存刷新以將臟高速緩存數(shù)據(jù)寫回到非相干存儲(chǔ)器。非相干存儲(chǔ)器或非相干存儲(chǔ)器的一部分的所有權(quán)的轉(zhuǎn)移可以通過(guò)工作單元消息向另一處理單元的遞送而被居間(mediate)。工作單元消息的遞送可以與相關(guān)高速緩存段中的數(shù)據(jù)的刷新互鎖(由其門控)。