[發(fā)明專利]基于分布式文件系統(tǒng)的多副本讀取方法、設(shè)備及存儲介質(zhì)在審
| 申請?zhí)枺?/td> | 201711076732.9 | 申請日: | 2017-11-06 |
| 公開(公告)號: | CN110019086A | 公開(公告)日: | 2019-07-16 |
| 發(fā)明(設(shè)計)人: | 歐陽偉 | 申請(專利權(quán))人: | 中興通訊股份有限公司 |
| 主分類號: | G06F16/182 | 分類號: | G06F16/182;G06F16/172;G06F11/14 |
| 代理公司: | 工業(yè)和信息化部電子專利中心 11010 | 代理人: | 于金平 |
| 地址: | 518057 廣東省深圳市南山*** | 國省代碼: | 廣東;44 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 讀取 副本數(shù)據(jù) 分布式文件系統(tǒng) 存儲節(jié)點 存儲介質(zhì) 調(diào)用 副本 副本存儲 節(jié)點獲取 用戶體驗 讀性能 容錯性 云存儲 失敗 安全 保證 | ||
本發(fā)明公開了一種基于分布式文件系統(tǒng)的多副本讀取方法、設(shè)備及存儲介質(zhì)。該方法包括:調(diào)用sendfile接口在本地存儲節(jié)點讀取副本數(shù)據(jù);當調(diào)用sendfile接口在本地存儲節(jié)點讀取副本數(shù)據(jù)失敗時,通過writev接口從其他副本存儲節(jié)點獲取副本數(shù)據(jù)?;诖?,本發(fā)明有效提高了使用sendfile的容錯性,即保證了讀性能的高效,又能兼顧云存儲的安全,提升了整體性能和用戶體驗。
技術(shù)領(lǐng)域
本發(fā)明涉及數(shù)據(jù)存儲技術(shù)領(lǐng)域,特別是涉及一種基于分布式文件系統(tǒng)的多副本讀取方法、設(shè)備及存儲介質(zhì)。
背景技術(shù)
目前,分布式文件系統(tǒng)在原來的系統(tǒng)read接口下,由于受應(yīng)用態(tài)到內(nèi)核態(tài)頻繁切換和磁盤本身最大ops(每秒操作次數(shù))影響,不改變業(yè)務(wù)架構(gòu)或更換硬件的前提下,磁盤的讀性能很難提高。因此,提供一種高性能的讀取方式是很有必要的。
發(fā)明內(nèi)容
本發(fā)明提供一種基于分布式文件系統(tǒng)的多副本讀取方法、設(shè)備及存儲介質(zhì),用以解決現(xiàn)有分布式文件系統(tǒng)中讀取效率低的問題。
為實現(xiàn)上述發(fā)明目的,本發(fā)明采用下述的技術(shù)方案:
依據(jù)本發(fā)明的一個方面,提供一種基于分布式文件系統(tǒng)的多副本讀取方法,其特征在于,包括:
調(diào)用sendfile接口在本地存儲節(jié)點讀取副本數(shù)據(jù);
當調(diào)用sendfile接口在本地存儲節(jié)點讀取副本數(shù)據(jù)失敗時,通過writev接口從其他副本存儲節(jié)點獲取所述副本數(shù)據(jù)。
可選的,所述調(diào)用sendfile接口在本地存儲節(jié)點讀取副本數(shù)據(jù),包括:
獲取源文件句柄;
根據(jù)所述源文件句柄確定所要讀取的副本數(shù)據(jù)的物理塊句柄;
通過調(diào)用sendfile接口讀取所述物理塊句柄中的副本數(shù)據(jù)。
可選的,所述根據(jù)所述源文件句柄確定所要讀取的副本數(shù)據(jù)的物理塊句柄,包括:
判斷所述源文件句柄是本地句柄還是云存儲句柄;
當判斷所述源文件句柄為云存儲句柄時,根據(jù)所述源文件句柄確定所要讀取的副本數(shù)據(jù)的物理塊句柄。
可選的,所述判斷源文件句柄是本地句柄還是云存儲句柄,包括:
當所述源文件句柄數(shù)量大于預(yù)設(shè)閾值時,則判定所述源文件句柄為云存儲句柄;
當所述源文件句柄數(shù)量小于或等于預(yù)設(shè)閾值時,則判定所述源文件句柄為本地句柄。
可選的,所述根據(jù)所述源文件句柄確定所要讀取的副本數(shù)據(jù)的物理塊句柄,包括:
根據(jù)預(yù)先存儲于元數(shù)據(jù)服務(wù)器中文件句柄與物理塊句柄的映射關(guān)系獲取所述源文件句柄所對應(yīng)的物理塊句柄。
可選的,在獲取源文件句柄之后,所述方法還包括:
根據(jù)偏移位置和副本數(shù)據(jù)的字節(jié)數(shù)計算所述物理塊的索引,以根據(jù)所述索引確定所述物理塊的位置;
所述通過調(diào)用sendfile接口讀取所述物理塊句柄中的副本數(shù)據(jù),包括:
根據(jù)所述物理塊句柄,從所述物理塊的位置讀取所述副本數(shù)據(jù)。
可選的,所述通過writev接口從其他副本存儲節(jié)點獲取所述副本數(shù)據(jù),包括:
調(diào)用read接口從所述其他副本存儲節(jié)點讀取所述副本數(shù)據(jù),通過writev接口將所述副本數(shù)據(jù)存儲至writev數(shù)組中;
當所述writev數(shù)組達到預(yù)設(shè)個數(shù)后,將所述writev數(shù)組中的數(shù)據(jù)一次寫入目標文件的緩存中。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于中興通訊股份有限公司,未經(jīng)中興通訊股份有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201711076732.9/2.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
- 分布式文件系統(tǒng)對多個副本數(shù)據(jù)進行處理的方法及該系統(tǒng)
- 一種文件系統(tǒng)的數(shù)據(jù)維護方法及系統(tǒng)
- 一種數(shù)據(jù)處理方法及裝置
- 一種數(shù)據(jù)存儲方法及系統(tǒng)
- 多副本數(shù)據(jù)一致性的檢測方法及裝置
- 用于分布式分層存儲系統(tǒng)的下刷方法、裝置及存儲介質(zhì)
- 一種數(shù)據(jù)恢復(fù)方法和裝置
- 分布式系統(tǒng)中副本數(shù)據(jù)庫的刪除方法及裝置
- 一種HDFS副本再復(fù)制改進方法
- 一種數(shù)據(jù)修復(fù)方法、裝置及系統(tǒng)
- 分布式文件系統(tǒng)及其數(shù)據(jù)處理方法和裝置
- 一種IO模式識別方法、系統(tǒng)、設(shè)備及計算機存儲介質(zhì)
- 文件系統(tǒng)啟動方法及裝置
- 網(wǎng)絡(luò)文件系統(tǒng)替換方法、集群配置文件共享方法及裝置
- 多分布式文件系統(tǒng)中處理配置文件的方法及裝置
- 用于大數(shù)據(jù)分析的分布式文件系統(tǒng)中的多租戶數(shù)據(jù)服務(wù)
- 一種圖片存儲方法、圖片查詢方法及裝置
- 一種高效的并行分布式文件系統(tǒng)并行復(fù)制方法
- 分布式文件系統(tǒng)配置方法及裝置
- 一種分布式文件系統(tǒng)遠程復(fù)制方法、裝置、設(shè)備和介質(zhì)





