[發明專利]一種分布式存儲的本地對象存儲方法及裝置在審
| 申請號: | 201810532022.0 | 申請日: | 2018-05-29 |
| 公開(公告)號: | CN108763473A | 公開(公告)日: | 2018-11-06 |
| 發明(設計)人: | 孔帥 | 申請(專利權)人: | 鄭州云海信息技術有限公司 |
| 主分類號: | G06F17/30 | 分類號: | G06F17/30 |
| 代理公司: | 北京集佳知識產權代理有限公司 11227 | 代理人: | 羅滿 |
| 地址: | 450018 河南省鄭州市*** | 國省代碼: | 河南;41 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 底層文件系統 聚合 分布式存儲 大文件 對象存儲 對象數據 小文件 末尾 寫入 數據庫 計算機可讀存儲介質 對象存儲裝置 海量小文件 存儲壓力 離散分布 連續分布 索引信息 寫入性能 連續塊 元數據 保存 磁盤 分配 | ||
1.一種分布式存儲的本地對象存儲方法,其特征在于,包括:
將對象的對象數據寫入到當前聚合文件的末尾;
將所述對象的元數據全部保存到KV數據庫中;
將所述對象和所述當前聚合文件的索引信息保存到所述KV數據庫中;其中,所述對象的索引信息包括所述對象數據中的每個碎片在所述對象數據中的偏移量和長度及所述對象數據中的每個碎片所寫入的聚合文件的id和偏移量,所述當前聚合文件的索引信息包括寫入到所述當前聚合文件的每個碎片在所述當前聚合文件中的偏移量和長度、在對應的對象數據中的偏移量及文件大小和有效數據大小。
2.根據權利要求1所述的分布式存儲的本地對象存儲方法,其特征在于,還包括:
將追加寫命令對應的新的碎片寫入到所述當前聚合文件的末尾;
更新所述KV數據庫中所述追加寫命令對應的對象的索引信息和所述當前聚合文件的索引信息。
3.根據權利要求1所述的分布式存儲的本地對象存儲方法,其特征在于,還包括:
將所述KV數據庫中修改寫命令對應的對象和聚合文件的索引信息中的刪除所述修改寫命令對應的舊的碎片的信息;
將所述修改寫命令對應的新的碎片寫入到所述當前聚合文件的末尾;
更新所述KV數據庫中所述修改寫命令對應的對象的索引信息和所述當前聚合文件的索引信息。
4.根據權利要求1所述的分布式存儲的本地對象存儲方法,其特征在于,還包括:
將所述KV數據庫中刪除命令對應的對象的索引信息,及對應的聚合文件的索引信息中所述刪除命令對應的對象的碎片的信息。
5.根據權利要求1所述的分布式存儲的本地對象存儲方法,其特征在于,還包括:
將有效數據大小與文件大小的比值小于等于回收閾值的聚合文件加入到回收隊列;
根據所述回收隊列中的聚合文件的索引信息,將所述回收隊列中的聚合文件中的有效數據對應的碎片寫入到所述當前聚合文件的末尾;
更新所述當前聚合文件的索引信息和所述回收隊列中的聚合文件中的有效數據對應的碎片對應的對象的索引信息。
6.根據權利要求1所述的分布式存儲的本地對象存儲方法,其特征在于,所述將有效數據大小與文件大小的比值小于等于回收閾值的聚合文件加入到回收隊列,包括:
將有效數據大小與文件大小的比值小于等于所述回收閾值,且在預設時間段內均未被訪問的聚合文件加入到所述回收隊列。
7.根據權利要求1至6任一項所述的分布式存儲的本地對象存儲方法,其特征在于,所述將對象的對象數據寫入到當前聚合文件的末尾之前,還包括:
判斷所述當前聚合文件的文件大小是否大于或等于容量閾值;
若否,則執行所述將對象的對象數據寫入到當前聚合文件的末尾的步驟;
若是,則將下一聚合文件作為所述當前聚合文件,執行所述將對象的對象數據寫入到當前聚合文件的末尾的步驟。
8.根據權利要求7所述的分布式存儲的本地對象存儲方法,其特征在于,所述將對象的對象數據寫入到當前聚合文件的末尾,包括:
若當前聚合文件在寫入所述對象數據的過程中,所述當前聚合文件的文件大小達到所述容量閾值,則將所述對象數據中未寫入到所述當前聚合文件的碎片寫入到下一聚合文件,并將所述下一聚合文件作為所述當前聚合文件。
9.一種分布式存儲的本地對象存儲裝置,其特征在于,包括:
數據寫入模塊,用于將對象的對象數據寫入到當前聚合文件的末尾;
第一保存模塊,用于將所述對象的元數據全部保存到KV數據庫中;
第二保存模塊,用于將所述對象和所述當前聚合文件的索引信息保存到所述KV數據庫中;其中,所述對象的索引信息包括所述對象數據中的每個碎片在所述對象數據中的偏移量和長度及所述對象數據中的每個碎片所寫入的聚合文件的id和偏移量,所述當前聚合文件的索引信息包括寫入到所述當前聚合文件的每個碎片在所述當前聚合文件中的偏移量和長度、在對應的對象數據中的偏移量及文件大小和有效數據大小。
10.一種計算機可讀存儲介質,其特征在于,所述計算機可讀存儲介質上存儲有計算機程序,所述計算機程序被處理器執行時實現如權利要求1至8任一項所述的分布式存儲的本地對象存儲方法的步驟。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于鄭州云海信息技術有限公司,未經鄭州云海信息技術有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201810532022.0/1.html,轉載請聲明來源鉆瓜專利網。





