[發(fā)明專利]一種基于糾刪碼集群存儲系統(tǒng)的局部式數(shù)據(jù)更新方法無效
| 申請?zhí)枺?/td> | 201210110334.5 | 申請日: | 2012-04-16 |
| 公開(公告)號: | CN102681793A | 公開(公告)日: | 2012-09-19 |
| 發(fā)明(設(shè)計(jì))人: | 黃建忠;曹強(qiáng);謝長生;張峰豪;劉政澤 | 申請(專利權(quán))人: | 華中科技大學(xué) |
| 主分類號: | G06F3/06 | 分類號: | G06F3/06;G06F11/08 |
| 代理公司: | 華中科技大學(xué)專利中心 42201 | 代理人: | 朱仁玲 |
| 地址: | 430074 湖北*** | 國省代碼: | 湖北;42 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 基于 糾刪碼 集群 存儲系統(tǒng) 局部 數(shù)據(jù) 更新 方法 | ||
技術(shù)領(lǐng)域
本發(fā)明屬于數(shù)據(jù)存儲領(lǐng)域,更具體地,涉及一種基于糾刪碼集群存儲系統(tǒng)的局部式數(shù)據(jù)更新方法。
背景技術(shù)
近年來,多址傳輸已成為互聯(lián)網(wǎng)的一個(gè)重要組成成分,大型軟件通過互聯(lián)網(wǎng)傳送給眾多用戶時(shí)要求用多址傳輸或廣播傳輸。這些傳輸必須是完全可靠的,同時(shí)要有小的網(wǎng)絡(luò)開銷和支持眾多各類用戶的隨機(jī)訪問。達(dá)成這種目的需要借助一種編碼的方法,即把傳輸?shù)膋比特的原數(shù)據(jù)編碼為n(n>k)比特的數(shù)據(jù)后發(fā)送出去,若接受方接受到足夠量的數(shù)據(jù),則運(yùn)用適當(dāng)?shù)淖g碼方法就可恢復(fù)k個(gè)比特的源數(shù)據(jù),稱這種碼為前向糾錯(cuò)碼,或稱糾刪碼。
正是因?yàn)榧m刪碼的這種高容錯(cuò)特性,其被廣泛應(yīng)用于大規(guī)模的集群存儲系統(tǒng)之中。如圖1所示,糾刪碼集群存儲系統(tǒng)的磁盤被劃分為k個(gè)數(shù)據(jù)節(jié)點(diǎn)和m個(gè)校驗(yàn)節(jié)點(diǎn)(k+m=n為總節(jié)點(diǎn)數(shù))。其中k個(gè)數(shù)據(jù)節(jié)點(diǎn)存放的數(shù)據(jù)塊為原始的數(shù)據(jù),m個(gè)校驗(yàn)節(jié)點(diǎn)存放的數(shù)據(jù)塊是經(jīng)過特定矩陣運(yùn)算出來的校驗(yàn)數(shù)據(jù),其中,k+m個(gè)數(shù)據(jù)塊組成的集合稱之為條帶。這樣便保證了即使集群中m個(gè)任意節(jié)點(diǎn)發(fā)生故障的情況下,系統(tǒng)都能夠做出正確的相應(yīng)并且能夠自我從故障中恢復(fù)。
然而,現(xiàn)有糾刪碼集群存儲系統(tǒng)存在著以下問題:對于數(shù)據(jù)更新的策略只采用簡單的更新管理器來進(jìn)行管理,并沒有對消耗的網(wǎng)絡(luò)帶寬及數(shù)據(jù)更新的耗時(shí)進(jìn)行足夠的優(yōu)化;此外,由于糾刪碼的編碼特性,當(dāng)有數(shù)據(jù)更新時(shí)除了影響到自身數(shù)據(jù)節(jié)點(diǎn)的更新,也要對所有的校驗(yàn)節(jié)點(diǎn)更新,如果按照傳統(tǒng)的更新方式,即在客戶端讀數(shù)據(jù),計(jì)算出新的數(shù)據(jù)再寫回,需要頻繁的進(jìn)行網(wǎng)絡(luò)傳輸,則使得數(shù)據(jù)的更新很大程度受到網(wǎng)絡(luò)帶寬的影響,也就影響到了整個(gè)系統(tǒng)的響應(yīng)時(shí)間和帶寬損耗。
發(fā)明內(nèi)容
針對現(xiàn)有技術(shù)的缺陷,本發(fā)明的目的在于提供一種基于糾刪碼集群存儲系統(tǒng)的局部式數(shù)據(jù)更新方法,其能夠在只有小型數(shù)據(jù)更新的情況下有效地提高系統(tǒng)的響應(yīng)時(shí)間,并能有效減小帶寬的消耗,減小更新服務(wù)器的負(fù)載,從而提高系統(tǒng)性能。
為實(shí)現(xiàn)上述目的,本發(fā)明提供了一種基于糾刪碼集群存儲系統(tǒng)的局部式數(shù)據(jù)更新方法,包括以下步驟:
(1)接收用戶發(fā)出的對數(shù)據(jù)D0的更新請求,并根據(jù)更新請求將數(shù)據(jù)D0更新為D0’;
(2)將更新后的數(shù)據(jù)D0’發(fā)送到待更新的數(shù)據(jù)節(jié)點(diǎn);
(3)待更新的數(shù)據(jù)節(jié)點(diǎn)從本地磁盤讀取數(shù)據(jù)D0到內(nèi)存中;
(4)利用等式Pj*=aj,0*(D0’-D0)在待更新的數(shù)據(jù)節(jié)點(diǎn)的內(nèi)存中計(jì)算出所有m個(gè)冗余節(jié)點(diǎn)需要的臨時(shí)數(shù)據(jù)塊集合{P0*,P1*,...,Pm-1*},其中j=0,...,m-1,Pj*表示第j個(gè)冗余節(jié)點(diǎn)所需要的臨時(shí)數(shù)據(jù)塊,aj,0表示糾刪碼的生成矩陣第j行第0列的元素;
(5)數(shù)據(jù)節(jié)點(diǎn)將更新后的數(shù)據(jù)D0’寫入本地磁盤;
(6)數(shù)據(jù)節(jié)點(diǎn)將m個(gè)臨時(shí)數(shù)據(jù)塊通過網(wǎng)絡(luò)并行發(fā)送至m個(gè)冗余節(jié)點(diǎn)上;
(7)第j個(gè)冗余節(jié)點(diǎn)從本地磁盤讀取原始的冗余數(shù)據(jù)Pj,并利用接收到的臨時(shí)數(shù)據(jù)塊Pj*以及等式Pj’=Pj*+Pj計(jì)算出新的校驗(yàn)數(shù)據(jù)Pj’,其中j=0,...,m-1;
(8)第j個(gè)冗余節(jié)點(diǎn)將計(jì)算得到的校驗(yàn)數(shù)據(jù)Pj’寫到本地磁盤上,并向數(shù)據(jù)節(jié)點(diǎn)發(fā)送更新完畢的信號;
(9)重復(fù)步驟(7)和(8),直到所有m個(gè)冗余節(jié)點(diǎn)都處理完畢為止;
(10)數(shù)據(jù)節(jié)點(diǎn)接收完所有冗余節(jié)點(diǎn)發(fā)送的更新完畢的信號后,向糾刪碼集群存儲系統(tǒng)發(fā)送更新完畢的信號。
通過本發(fā)明所構(gòu)思的以上技術(shù)方案,與現(xiàn)有技術(shù)相比,本發(fā)明具有以下的有益效果:
(1)節(jié)約帶寬,減少了由更新帶來的寫回操作(即縮短了更新鏈),有效減少了數(shù)據(jù)在網(wǎng)絡(luò)中的傳輸,節(jié)約了帶寬;
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于華中科技大學(xué),未經(jīng)華中科技大學(xué)許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201210110334.5/2.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
- 同類專利
- 專利分類
G06F 電數(shù)字?jǐn)?shù)據(jù)處理
G06F3-00 用于將所要處理的數(shù)據(jù)轉(zhuǎn)變成為計(jì)算機(jī)能夠處理的形式的輸入裝置;用于將數(shù)據(jù)從處理機(jī)傳送到輸出設(shè)備的輸出裝置,例如,接口裝置
G06F3-01 .用于用戶和計(jì)算機(jī)之間交互的輸入裝置或輸入和輸出組合裝置
G06F3-05 .在規(guī)定的時(shí)間間隔上,利用模擬量取樣的數(shù)字輸入
G06F3-06 .來自記錄載體的數(shù)字輸入,或者到記錄載體上去的數(shù)字輸出
G06F3-09 .到打字機(jī)上去的數(shù)字輸出
G06F3-12 .到打印裝置上去的數(shù)字輸出
- 發(fā)送裝置及發(fā)送方法
- 一種存儲系統(tǒng)糾刪碼編碼、解碼電路及編解碼電路
- 基于NVRAM存儲系統(tǒng)直接糾刪碼的優(yōu)化方法和系統(tǒng)
- 一種數(shù)據(jù)存儲、重構(gòu)方法和裝置、及電子設(shè)備
- 一種通過糾刪碼對數(shù)據(jù)的處理方法及裝置
- 一種基于糾刪碼的糾刪池的創(chuàng)建方法及相關(guān)裝置
- 一種糾刪碼讀請求處理方法、系統(tǒng)、設(shè)備及計(jì)算機(jī)介質(zhì)
- 數(shù)據(jù)操作方法、裝置和分布式存儲系統(tǒng)
- 一種基于糾刪碼的新媒體圖像的篡改恢復(fù)方法及裝置
- 一種數(shù)據(jù)處理方法、裝置、設(shè)備及介質(zhì)
- 一種集群調(diào)度呼叫業(yè)務(wù)中主叫終端信息顯示方法
- 更新網(wǎng)絡(luò)流量管理設(shè)備同時(shí)維持有效性
- 與集群調(diào)度系統(tǒng)進(jìn)行通信的方法、群集接入網(wǎng)關(guān)及系統(tǒng)
- 一種管理集群通信系統(tǒng)資源的方法
- 基于Kubernetes和OpenStack容器云平臺多集群構(gòu)建方法、介質(zhì)、設(shè)備
- 一種容災(zāi)系統(tǒng)、容災(zāi)處理方法、監(jiān)控節(jié)點(diǎn)和備份集群
- 一種ETCD集群恢復(fù)方法、系統(tǒng)、設(shè)備及計(jì)算機(jī)介質(zhì)
- 混合云場景下保證可用集群數(shù)量的方法、裝置及系統(tǒng)
- 一種集群拓?fù)涓路椒ā⑾到y(tǒng)、設(shè)備及計(jì)算機(jī)存儲介質(zhì)
- 集群切換方法、集群切換裝置、電子設(shè)備及可讀存儲介質(zhì)
- 用于處理到遠(yuǎn)程存儲位置的故障恢復(fù)的方法、系統(tǒng)以及程序
- 包括向外擴(kuò)展型存儲系統(tǒng)的存儲系統(tǒng)群及其管理方法
- 一種移動存儲系統(tǒng)及其存儲方法
- 存儲系統(tǒng)的數(shù)據(jù)備份與恢復(fù)系統(tǒng)、方法、設(shè)備及存儲介質(zhì)
- 在線遷移異構(gòu)系統(tǒng)數(shù)據(jù)的方法、裝置、設(shè)備和存儲介質(zhì)
- 建立存儲系統(tǒng)伙伴關(guān)系的方法及裝置
- 數(shù)據(jù)處理系統(tǒng)及其操作方法
- 一種容災(zāi)平臺及一種容災(zāi)方法
- 在基于云的存儲系統(tǒng)中服務(wù)I/O操作
- 一種數(shù)據(jù)修復(fù)方法及裝置





