[發(fā)明專利]一種分布式內(nèi)存文件管理系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 201910384983.6
• 申請(qǐng)日: 2019-05-09
• 公開（公告）號(hào): CN110109889A
• 公開（公告）日: 2019-08-09
• 發(fā)明（設(shè)計(jì)）人: 陳咸彰;沙行勉;劉成龍;曾孝平;諸葛晴鳳
• 申請(qǐng)（專利權(quán)）人: 重慶大學(xué)
• 主分類號(hào): G06F16/182
• 分類號(hào): G06F16/182;G06F16/172;G06F16/13
• 代理公司: 成都時(shí)譽(yù)知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 51250
• 代理人: 陳千

本發(fā)明公開一種分布式內(nèi)存文件管理系統(tǒng)，設(shè)置有元數(shù)據(jù)存儲(chǔ)服務(wù)器和文件數(shù)據(jù)存儲(chǔ)服務(wù)器，所述元數(shù)據(jù)存儲(chǔ)服務(wù)器用于管理系統(tǒng)的元數(shù)據(jù)信息和所述文件數(shù)據(jù)存儲(chǔ)服務(wù)器的相關(guān)信息，所述文件數(shù)據(jù)存儲(chǔ)服務(wù)器用于存放文件數(shù)據(jù)塊，客戶端通過(guò)元數(shù)據(jù)存儲(chǔ)服務(wù)器獲取文件數(shù)據(jù)塊的物理地址，然后再通過(guò)RDMA單側(cè)讀寫直接訪問(wèn)文件數(shù)據(jù)塊在文件數(shù)據(jù)存儲(chǔ)服務(wù)器中的物理內(nèi)存。其效果是：避免了在文件數(shù)據(jù)存儲(chǔ)服務(wù)器的本地文件系統(tǒng)查詢文件數(shù)據(jù)塊索引的開銷，同時(shí)可以利用索引預(yù)取和空間預(yù)分配將元數(shù)據(jù)保存在客戶端緩存中，降低客戶端請(qǐng)求元數(shù)據(jù)存儲(chǔ)節(jié)點(diǎn)查詢索引的通信頻率，進(jìn)一步提升數(shù)據(jù)訪問(wèn)性能。

技術(shù)領(lǐng)域

本發(fā)明涉及計(jì)算機(jī)內(nèi)存管理技術(shù)，更具體地說(shuō)，是一種分布式內(nèi)存文件管理系統(tǒng)。

背景技術(shù)

近年來(lái)，新興的非易失性存儲(chǔ)器(Non-Volatile Memory，簡(jiǎn)稱NVM)具有可按字節(jié)尋址、掉電數(shù)據(jù)不丟失、讀寫性能接近DRAM等特點(diǎn)，同時(shí)遠(yuǎn)程直接數(shù)據(jù)存取(Remote DirectMemory Access，簡(jiǎn)稱RDMA)技術(shù)為實(shí)現(xiàn)高效的遠(yuǎn)程數(shù)據(jù)訪問(wèn)提供了機(jī)會(huì)。現(xiàn)有的分布式內(nèi)存文件系統(tǒng)正試圖將NVM和RDMA技術(shù)整合到文件系統(tǒng)中來(lái)提高數(shù)據(jù)訪問(wèn)性能。

然而這些分布式內(nèi)存文件系統(tǒng)嚴(yán)格分隔了文件系統(tǒng)和網(wǎng)絡(luò)層，只是通過(guò)RDMA庫(kù)取代通訊模塊，或者使用NVM取代主內(nèi)存和本地存儲(chǔ)介質(zhì)，而并沒(méi)有重構(gòu)內(nèi)部文件系統(tǒng)機(jī)制。這種分層且繁重的軟件設(shè)計(jì)使得分布式內(nèi)存文件系統(tǒng)過(guò)于沉重，無(wú)法充分利用新興高速硬件的優(yōu)勢(shì)。

現(xiàn)有的這些分布式內(nèi)存文件系統(tǒng)在每個(gè)存儲(chǔ)節(jié)點(diǎn)上是以文件的方式組織起來(lái)的。即使存儲(chǔ)介質(zhì)是NVM，數(shù)據(jù)的訪問(wèn)也需要經(jīng)過(guò)I/O軟件層，特別是在大數(shù)據(jù)處理框架中，比如MapReduce是將一個(gè)大文件分割成多個(gè)文件塊，并將文件塊分散到分布式文件系統(tǒng)中，現(xiàn)有的分布式文件系統(tǒng)是將文件塊作為獨(dú)立文件存儲(chǔ)在存儲(chǔ)節(jié)點(diǎn)的本地文件系統(tǒng)上。因此，訪問(wèn)大數(shù)據(jù)文件內(nèi)的任何數(shù)據(jù)都需要搜索兩次才能找到數(shù)據(jù)的位置。這些分布式內(nèi)存文件系統(tǒng)中的極高速RDMA網(wǎng)絡(luò)和NVM存儲(chǔ)器仍由本地文件系統(tǒng)和數(shù)據(jù)緩沖區(qū)隔離。

發(fā)明內(nèi)容

針對(duì)現(xiàn)有技術(shù)中存在的問(wèn)題，本發(fā)明提出一種分布式內(nèi)存文件管理系統(tǒng)，以提升數(shù)據(jù)訪問(wèn)性能。

為了實(shí)現(xiàn)上述目的，本發(fā)明所采用的具體技術(shù)方案如下：

一種分布式內(nèi)存文件管理系統(tǒng)，其關(guān)鍵在于：設(shè)置有元數(shù)據(jù)存儲(chǔ)服務(wù)器和文件數(shù)據(jù)存儲(chǔ)服務(wù)器，所述元數(shù)據(jù)存儲(chǔ)服務(wù)器用于管理系統(tǒng)的元數(shù)據(jù)信息和所述文件數(shù)據(jù)存儲(chǔ)服務(wù)器的相關(guān)信息，所述文件數(shù)據(jù)存儲(chǔ)服務(wù)器用于存放文件數(shù)據(jù)塊，客戶端通過(guò)元數(shù)據(jù)存儲(chǔ)服務(wù)器獲取文件數(shù)據(jù)塊的物理地址，然后再通過(guò)RDMA單側(cè)讀寫直接訪問(wèn)文件數(shù)據(jù)塊在文件數(shù)據(jù)存儲(chǔ)服務(wù)器中的物理內(nèi)存。

可選地，所述客戶端設(shè)置有元數(shù)據(jù)緩存模塊，系統(tǒng)利用索引預(yù)取和空間預(yù)分配將元數(shù)據(jù)保存在所述元數(shù)據(jù)緩存模塊中。

可選地，一個(gè)完整文件的數(shù)據(jù)內(nèi)容被分割成多個(gè)“文件數(shù)據(jù)塊”，每個(gè)文件數(shù)據(jù)塊都分別被復(fù)制到多臺(tái)文件數(shù)據(jù)存儲(chǔ)服務(wù)器中。

可選地，所述文件數(shù)據(jù)塊為一段連續(xù)的NVM存儲(chǔ)空間，且可通過(guò)RDMA讀/寫操作直接訪問(wèn)。

可選地，系統(tǒng)利用元數(shù)據(jù)存儲(chǔ)服務(wù)器管理文件數(shù)據(jù)存儲(chǔ)服務(wù)器的空閑NVM存儲(chǔ)空間，客戶端直接從元數(shù)據(jù)存儲(chǔ)服務(wù)器中分配空閑文件數(shù)據(jù)塊。

可選地，對(duì)于每一臺(tái)文件數(shù)據(jù)存儲(chǔ)服務(wù)器，其NVM存儲(chǔ)空間都已注冊(cè)給本地文件系統(tǒng)和元數(shù)據(jù)存儲(chǔ)服務(wù)器；

在本地文件系統(tǒng)中，該段NVM存儲(chǔ)空間被注冊(cè)為RDMA可訪問(wèn)空間，用于支持遠(yuǎn)程直接數(shù)據(jù)存取，并且對(duì)本機(jī)呈屏蔽狀態(tài)；

在元數(shù)據(jù)存儲(chǔ)服務(wù)器中，該段NVM存儲(chǔ)空間被注冊(cè)用于自由存儲(chǔ)空間管理。

可選地，所述元數(shù)據(jù)存儲(chǔ)服務(wù)器中設(shè)置文件元數(shù)據(jù)索引結(jié)構(gòu)，每一個(gè)索引條目對(duì)應(yīng)一個(gè)文件數(shù)據(jù)塊，記錄相應(yīng)文件數(shù)據(jù)塊的文件數(shù)據(jù)存儲(chǔ)服務(wù)器編號(hào)、文件數(shù)據(jù)塊大小和起始物理地址。