[發(fā)明專利]一種分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步的方法及系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 201210376048.3
• 申請(qǐng)日: 2012-09-29
• 公開（公告）號(hào): CN102932424A
• 公開（公告）日: 2013-02-13
• 發(fā)明（設(shè)計(jì)）人: 郭鵬
• 申請(qǐng)（專利權(quán)）人: 浪潮（北京）電子信息產(chǎn)業(yè)有限公司
• 主分類號(hào): H04L29/08
• 分類號(hào): H04L29/08;H04L29/06;G06F17/30
• 代理公司: 北京安信方達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 11262
• 代理人: 栗若木;曲鵬

技術(shù)領(lǐng)域

本發(fā)明涉及分布式并行文件系統(tǒng)，尤其涉及一種實(shí)現(xiàn)分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步的方法及系統(tǒng)。

背景技術(shù)

隨著云計(jì)算技術(shù)、云存儲(chǔ)技術(shù)應(yīng)用的進(jìn)一步發(fā)展，作為其應(yīng)用核心的分布式并行文件系統(tǒng)也得到了快速的應(yīng)用和發(fā)展。分布式并行文件系統(tǒng)具有動(dòng)態(tài)高可擴(kuò)展性、大容量、集群結(jié)構(gòu)以及支持高并發(fā)的特征。

為滿足云計(jì)算、云存儲(chǔ)實(shí)際業(yè)務(wù)請(qǐng)求的需要，運(yùn)行在其后端的分布式并行文件系統(tǒng)構(gòu)建在分布式的集群節(jié)點(diǎn)上，主要包括元數(shù)據(jù)節(jié)點(diǎn)、數(shù)據(jù)存儲(chǔ)節(jié)點(diǎn)以及客戶端節(jié)點(diǎn)。元數(shù)據(jù)采用高性能、大容量服務(wù)器或者采用元數(shù)據(jù)集群的方式構(gòu)建，數(shù)據(jù)存儲(chǔ)采用數(shù)據(jù)存儲(chǔ)集群的方式構(gòu)建，客戶端節(jié)點(diǎn)采用具備大容量高速緩存、運(yùn)行快的高性能服務(wù)器以集群方式構(gòu)建。

在云計(jì)算、云存儲(chǔ)應(yīng)用中，大量的訪問請(qǐng)求需要發(fā)送到分布式文件系統(tǒng)的客戶端節(jié)點(diǎn)進(jìn)行數(shù)據(jù)的讀寫操作。針對(duì)包含大量讀操作、寫操作混合的訪問請(qǐng)求，客戶端節(jié)點(diǎn)需要將相應(yīng)的讀請(qǐng)求數(shù)據(jù)緩存到內(nèi)存，將寫請(qǐng)求數(shù)據(jù)寫入到緩存后盡快完成對(duì)上層訪問請(qǐng)求的響應(yīng)。大規(guī)模的分布式并行文件系統(tǒng)中的大量客戶端節(jié)點(diǎn)均采取這種方式運(yùn)行，所有這些客戶端節(jié)點(diǎn)在某些時(shí)刻需要將緩存中已完成的請(qǐng)求數(shù)據(jù)提交到數(shù)據(jù)存儲(chǔ)節(jié)點(diǎn)實(shí)現(xiàn)數(shù)據(jù)實(shí)際寫操作，而在寫入過程中又夾雜著讀操作或者更新操作。

目前分布式并行文件系統(tǒng)普遍采取的數(shù)據(jù)緩存操作，一般依賴于文件系統(tǒng)所在的操作系統(tǒng)的緩存處理機(jī)制。操作系統(tǒng)對(duì)于文件系統(tǒng)中的讀操作，采取預(yù)讀策略將目標(biāo)數(shù)據(jù)及位置相鄰數(shù)據(jù)讀取并放入系統(tǒng)緩存中。對(duì)于寫操作，采取“緩寫”機(jī)制，即數(shù)據(jù)在緩存寫完后為寫完成，當(dāng)緩存寫請(qǐng)求累計(jì)到既定數(shù)據(jù)大小(如64MB)后，才執(zhí)行一次實(shí)際的寫操作。

如果在實(shí)際寫請(qǐng)求執(zhí)行之前，分布式并行文件系統(tǒng)持續(xù)處于繁忙的狀態(tài)，或者出現(xiàn)部分宕機(jī)事件，則將出現(xiàn)數(shù)據(jù)緩存的不一致問題。

發(fā)明內(nèi)容

本發(fā)明所要解決的技術(shù)問題是克服目前分布式并行文件系統(tǒng)在實(shí)際寫請(qǐng)求執(zhí)行之前持續(xù)處于繁忙狀態(tài)或者出現(xiàn)部分宕機(jī)事件將出現(xiàn)數(shù)據(jù)緩存不一致的缺陷。

為了解決上述技術(shù)問題，本發(fā)明提供了一種分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步系統(tǒng)，包括元數(shù)據(jù)監(jiān)控模塊(1)、數(shù)據(jù)存儲(chǔ)監(jiān)控模塊(2)、客戶端監(jiān)控模塊(3)、負(fù)載仲裁模塊(4)以及緩存同步模塊(5)，其中：

所述元數(shù)據(jù)監(jiān)控模塊(1)、數(shù)據(jù)存儲(chǔ)監(jiān)控模塊(2)以及客戶端監(jiān)控模塊(3)分別用于根據(jù)預(yù)設(shè)的時(shí)間維度，實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問、數(shù)據(jù)存儲(chǔ)以及客戶端的性能負(fù)載，并分別生成元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)以及客戶端負(fù)載評(píng)價(jià)；

負(fù)載仲裁模塊(4)，用于根據(jù)所述元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)和客戶端負(fù)載評(píng)價(jià)，以及預(yù)設(shè)的負(fù)載評(píng)測(cè)時(shí)間窗和負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，生成多個(gè)不同時(shí)間維度的負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)；

緩存同步模塊(5)，用于根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作。

優(yōu)選地，所述元數(shù)據(jù)監(jiān)控模塊(1)用于通過基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比生成所述元數(shù)據(jù)負(fù)載評(píng)價(jià)。

優(yōu)選地，所述數(shù)據(jù)存儲(chǔ)監(jiān)控模塊(2)用于監(jiān)控?cái)?shù)據(jù)存儲(chǔ)上所承擔(dān)的輸入輸出(IO)負(fù)載，通過基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比獲得存儲(chǔ)節(jié)點(diǎn)所存儲(chǔ)數(shù)據(jù)的讀取量和寫入量，生成所述數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)。

優(yōu)選地，所述客戶端監(jiān)控模塊(3)用于監(jiān)控客戶端所承載的讀請(qǐng)求和寫入請(qǐng)求，根據(jù)所述讀請(qǐng)求和寫入請(qǐng)求生成所述客戶端負(fù)載評(píng)價(jià)。

優(yōu)選地，所述緩存同步模塊(5)用于將所述元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端中緩存的臟數(shù)據(jù)寫入到文件系統(tǒng)中。

本發(fā)明還提供了一種分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步方法，包括：

根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)；

根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中數(shù)據(jù)存儲(chǔ)的性能負(fù)載，生成數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)；

根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中客戶端的性能負(fù)載，生成客戶端負(fù)載評(píng)價(jià)；

根據(jù)所述元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)和客戶端負(fù)載評(píng)價(jià)，以及預(yù)設(shè)的負(fù)載評(píng)測(cè)時(shí)間窗和負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，生成多個(gè)不同時(shí)間維度的負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)；

根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作。

優(yōu)選地，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)，包括：