[發(fā)明專利]分布式數(shù)據(jù)重分布控制方法、裝置及數(shù)據(jù)管理服務(wù)器在審
| 申請?zhí)枺?/td> | 201710379528.8 | 申請日: | 2017-05-25 |
| 公開(公告)號: | CN108932256A | 公開(公告)日: | 2018-12-04 |
| 發(fā)明(設(shè)計)人: | 隨建;張玲東;景雯雯 | 申請(專利權(quán))人: | 中興通訊股份有限公司 |
| 主分類號: | G06F17/30 | 分類號: | G06F17/30 |
| 代理公司: | 深圳鼎合誠知識產(chǎn)權(quán)代理有限公司 44281 | 代理人: | 江婷;李發(fā)兵 |
| 地址: | 518057 廣東省深圳市*** | 國省代碼: | 廣東;44 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 數(shù)據(jù)存儲區(qū) 數(shù)據(jù)管理服務(wù)器 目標(biāo)存儲節(jié)點 分布式數(shù)據(jù) 分發(fā) 存儲節(jié)點 分布控制 預(yù)設(shè) 剩余存儲空間 待存儲數(shù)據(jù) 數(shù)據(jù)儲存區(qū) 數(shù)據(jù)處理量 資源利用率 處理效率 存儲控制 分布過程 規(guī)則確定 規(guī)則設(shè)置 觸發(fā) 遷移 | ||
本發(fā)明提供一種分布式數(shù)據(jù)重分布控制方法、裝置及數(shù)據(jù)管理服務(wù)器,先根據(jù)預(yù)設(shè)的第一分發(fā)規(guī)則設(shè)置各存儲節(jié)點上的數(shù)據(jù)存儲區(qū),總共設(shè)置N個數(shù)據(jù)存儲區(qū);然后在接收到待存儲數(shù)據(jù)時,根據(jù)預(yù)設(shè)存儲控制規(guī)則將其存入相應(yīng)存儲節(jié)點上對應(yīng)的數(shù)據(jù)存儲區(qū);在需要數(shù)據(jù)重分布觸發(fā)時,根據(jù)之前的第一分發(fā)規(guī)則和數(shù)據(jù)重分布對應(yīng)的新的第二分發(fā)規(guī)則確定上述N個數(shù)據(jù)存儲區(qū)中待遷出的數(shù)據(jù)存儲區(qū)以及各待遷出的數(shù)據(jù)儲存區(qū)所要遷入的目標(biāo)存儲節(jié)點,然后僅將各待遷出的數(shù)據(jù)存儲區(qū)分別遷入對應(yīng)的目標(biāo)存儲節(jié)點,其他不需要遷移的數(shù)據(jù)則保持不變,可以大大降低數(shù)據(jù)重分布過程中的數(shù)據(jù)處理量,提升處理效率,并可降低對剩余存儲空間的要求,提升資源利用率。
技術(shù)領(lǐng)域
本發(fā)明涉及通信領(lǐng)域,尤其涉及一種分布式數(shù)據(jù)重分布控制方法、裝置及數(shù)據(jù)管理服務(wù)器。
背景技術(shù)
在現(xiàn)今數(shù)據(jù)庫應(yīng)用中,數(shù)據(jù)庫并發(fā)度高、數(shù)據(jù)增長速度快是當(dāng)今數(shù)據(jù)庫業(yè)務(wù)兩大特點。在短時間內(nèi),可能存在大量數(shù)據(jù)新增或修改。隨著數(shù)據(jù)數(shù)量級遞增,從字節(jié)、千字節(jié)、兆字節(jié)到現(xiàn)在的萬兆字節(jié),結(jié)合MariaDB/MySQL(關(guān)系型數(shù)據(jù)庫管理系統(tǒng))數(shù)據(jù)庫良好橫向擴(kuò)展特性,基于MariaDB/MySQL數(shù)據(jù)庫的分布式數(shù)據(jù)庫得到廣泛的應(yīng)用。分布式數(shù)據(jù)庫重要的一個特性就是橫向擴(kuò)展,那么提高數(shù)據(jù)庫擴(kuò)展功能的靈活性,隨意增減存儲節(jié)點,將原有數(shù)據(jù)進(jìn)行數(shù)據(jù)重分布的功能就顯得較重要。目前業(yè)界針對分布式數(shù)據(jù)庫中一個數(shù)據(jù)管理服務(wù)器(也即分布式數(shù)據(jù)庫計算節(jié)點)的hash大表中的數(shù)據(jù)進(jìn)行重分布時(例如因為新增存儲節(jié)點或減少存儲節(jié)點導(dǎo)致需要進(jìn)行重分布),通常做法是將存儲的所有數(shù)據(jù)全量導(dǎo)出,然后按照重分布之后的新規(guī)則再全部重新導(dǎo)入,這種數(shù)據(jù)重分布方式不僅處理的數(shù)據(jù)量大,效率低,且對存儲空間有較高的要求,至少需保證有導(dǎo)出空間可用。
發(fā)明內(nèi)容
本發(fā)明實施例提供的分布式數(shù)據(jù)重分布控制方法、裝置及數(shù)據(jù)管理服務(wù)器,主要解決的技術(shù)問題是現(xiàn)有分布式數(shù)據(jù)庫進(jìn)行數(shù)據(jù)重分布時將所有存儲數(shù)據(jù)導(dǎo)出再按照重分布后的新規(guī)則重新導(dǎo)入,導(dǎo)致處理的數(shù)據(jù)量大、效率低,占用資源多的問題。
為解決上述技術(shù)問題,本發(fā)明實施例提供一種分布式數(shù)據(jù)重分布控制方法,包括:
接收到待存儲數(shù)據(jù)時,根據(jù)預(yù)設(shè)存儲控制規(guī)則將其存入相應(yīng)存儲節(jié)點上對應(yīng)的數(shù)據(jù)存儲區(qū);各存儲節(jié)點上的各數(shù)據(jù)存儲區(qū)根據(jù)預(yù)設(shè)的第一分發(fā)規(guī)則設(shè)置,根據(jù)所述第一分發(fā)規(guī)則確定的數(shù)據(jù)存儲區(qū)個數(shù)為N,所述各數(shù)據(jù)存儲區(qū)之間所存儲的數(shù)據(jù)相互獨立,所述N大于等于2;
檢測到數(shù)據(jù)重分布觸發(fā)時,根據(jù)所述第一分發(fā)規(guī)則和數(shù)據(jù)重分布對應(yīng)的第二分發(fā)規(guī)則確定所述N個數(shù)據(jù)存儲區(qū)中待遷出的數(shù)據(jù)存儲區(qū)以及各待遷出的數(shù)據(jù)儲存區(qū)所要遷入的目標(biāo)存儲節(jié)點;
將所述各待遷出的數(shù)據(jù)存儲區(qū)分別遷入對應(yīng)的目標(biāo)存儲節(jié)點。
為了解決上述問題,本發(fā)明還提供一種分布式數(shù)據(jù)重分布控制裝置,包括:
數(shù)據(jù)存儲控制模塊,用于接收到待存儲數(shù)據(jù)時,根據(jù)預(yù)設(shè)存儲控制規(guī)則將其存入相應(yīng)存儲節(jié)點上對應(yīng)的數(shù)據(jù)存儲區(qū);各存儲節(jié)點上的各數(shù)據(jù)存儲區(qū)根據(jù)預(yù)設(shè)的第一分發(fā)規(guī)則設(shè)置,根據(jù)所述第一分發(fā)規(guī)則確定的數(shù)據(jù)存儲區(qū)個數(shù)為N,所述各數(shù)據(jù)存儲區(qū)之間所存儲的數(shù)據(jù)相互獨立,所述N大于等于2;
數(shù)據(jù)重分布控制模塊,用于檢測到數(shù)據(jù)重分布觸發(fā)時,根據(jù)所述第一分發(fā)規(guī)則和數(shù)據(jù)重分布對應(yīng)的第二分發(fā)規(guī)則確定所述N個數(shù)據(jù)存儲區(qū)中待遷出的數(shù)據(jù)存儲區(qū)以及各待遷出的數(shù)據(jù)儲存區(qū)所要遷入的目標(biāo)存儲節(jié)點,將所述各待遷出的數(shù)據(jù)存儲區(qū)分別遷入對應(yīng)的目標(biāo)存儲節(jié)點。
為了解決上述問題,本發(fā)明還提供一種數(shù)據(jù)管理服務(wù)器,包括處理器、存儲器及通信總線;
所述通信總線用于實現(xiàn)所述處理器和所述存儲器之間的連接通信;
所述處理器用于執(zhí)行存儲器中存儲的分布式數(shù)據(jù)重分布控制程序,以實現(xiàn)如上所述的分布式數(shù)據(jù)重分布控制方法中的步驟。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于中興通訊股份有限公司,未經(jīng)中興通訊股份有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201710379528.8/2.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
- 具有恢復(fù)到初始狀態(tài)的功能的存儲控制設(shè)備、存儲設(shè)備的控制方法以及程序
- 虛擬存儲裝置
- 閃速存儲器數(shù)據(jù)完整性保護(hù)方法
- 一種數(shù)據(jù)存儲方法
- 一種數(shù)據(jù)存儲方法及存儲設(shè)備
- 一種Flash存儲器的數(shù)據(jù)存儲方法
- 一種Flash存儲器的數(shù)據(jù)存取方法
- 一種數(shù)據(jù)可靠性的存儲及恢復(fù)方法、系統(tǒng)及裝置
- 一種嵌入式系統(tǒng)數(shù)據(jù)存儲區(qū)管理方法
- 數(shù)據(jù)存儲方法、裝置、設(shè)備及存儲介質(zhì)
- 測試數(shù)據(jù)管理系統(tǒng)
- 分散系統(tǒng)、數(shù)據(jù)管理服務(wù)器以及數(shù)據(jù)流通方法
- 一種智能IC卡管理系統(tǒng)
- 一種基于智能手機(jī)的客戶管理裝置
- 基于云服務(wù)的電力設(shè)備局部放電數(shù)據(jù)管理平臺
- 一種基于互聯(lián)網(wǎng)+理念的高校教師分類評價與選拔系統(tǒng)
- 一種為服務(wù)器提供輔助的方法及系統(tǒng)、模擬服務(wù)器
- 一種數(shù)據(jù)集中管理系統(tǒng)
- 一種農(nóng)業(yè)物聯(lián)網(wǎng)的云數(shù)據(jù)管理系統(tǒng)
- 一種基于DDM的數(shù)據(jù)模型管控系統(tǒng)
- 數(shù)據(jù)存儲方法、恢復(fù)方法、相關(guān)裝置以及系統(tǒng)
- 一種數(shù)據(jù)布局的方法、裝置和系統(tǒng)
- 一種數(shù)據(jù)存儲方法及終端
- 一種數(shù)據(jù)存儲方法、裝置及系統(tǒng)
- 一種數(shù)據(jù)恢復(fù)方法和裝置
- 區(qū)塊鏈節(jié)點間通信方法、裝置及區(qū)塊鏈節(jié)點
- 一種數(shù)據(jù)分布式緩存方法、系統(tǒng)、設(shè)備及計算機(jī)存儲介質(zhì)
- 寫入圖片的方法和裝置
- 數(shù)據(jù)處理方法及裝置、系統(tǒng)、計算機(jī)可讀存儲介質(zhì)
- 資源查詢方法、裝置、節(jié)點設(shè)備及存儲介質(zhì)
- 基于分布式系統(tǒng)的數(shù)據(jù)訪問方法和裝置
- 分布式數(shù)據(jù)庫預(yù)處理的方法及裝置
- 分布式實時數(shù)據(jù)庫的存儲系統(tǒng)
- 一種分布式能源遠(yuǎn)程監(jiān)測管理系統(tǒng)及方法
- 任務(wù)處理方法和分布式計算框架
- 一種分布式數(shù)據(jù)存儲的方法和系統(tǒng)
- 一種分布式能源遠(yuǎn)程監(jiān)測管理系統(tǒng)
- 一種適用于分布式數(shù)據(jù)庫的負(fù)載均衡方法、裝置及服務(wù)器
- 分布式任務(wù)計算調(diào)度框架搭建的方法、裝置及計算機(jī)設(shè)備
- 一種影像數(shù)據(jù)的分布式存儲方法、分析方法及裝置





