[發明專利]一種基于分級映射的Ceph存儲系統自動均衡存儲方法

有效

• 申請號: 202010763358.5
• 申請日: 2020-08-01
• 公開（公告）號: CN111880747B
• 公開（公告）日: 2022-11-08
• 發明（設計）人: 陳寧江;盧煜
• 申請（專利權）人: 廣西大學
• 主分類號: G06F3/06
• 分類號: G06F3/06
• 代理公司: 深圳市六加知識產權代理有限公司 44372
• 代理人: 向彬

本發明公開了一種基于分級映射的Ceph存儲系統自動均衡存儲方法。本發明基于分級映射的Ceph存儲系統自動均衡存儲方法包括：為存儲集群的所有OSD(Object Storage Device，對象存儲設備)新增一個等級屬性，根據等級劃分為多個子存儲池，同時以OSD等級為基礎為PG(Placement Group，放置組)增加一個等級屬性，PG在相同等級的OSD子存儲池中尋找OSD組合進行存儲；同時加入隨機因子與影響因子指導PG選擇OSD的過程；當總存儲池中單點OSD出現使用率過高的時候，根據PG所在存儲池與其他存儲池使用率信息確定PG遷移大方向，同時根據PG等級、隨機因與影響因子組合，進行遷移均衡調整。本發明能夠實現在Ceph存儲系統中使用率過高的OSD能合理遷移內部PG以保證系統存儲的均衡，提高系統的穩定性。

技術領域

本發明屬于分布式存儲技術領域，更具體地，涉及一種基于分級映射的Ceph存儲系統自動均衡存儲方法。

背景技術

Ceph存儲系統是一種對象存儲系統(Object-Based Storage System，OBSS)，但是與傳統的OBSS不一樣的是，Ceph存儲系統并沒有獨立的元數據服務器來記錄分片對象存儲的OSD(Object Storage Device，對象存儲設備)位置，而是使用CRUSH(ControlledReplication Under Scalable Hashing，可控復制的可擴展副本數據選擇哈希算法)算法來確定對象和對象的副本備份的存儲位置。當需要再次查找數據或者修改數據的時候，數據的讀寫尋址過程可以在每個OSD上獨立完成，不存在單節點瓶頸。此種調度方式依托于軟件而不是人工，在設備更換或者新增時，軟件能自發計算對象的存儲位置，實現數據恢復和擴容時的均衡，此過程不需要人工介入。Ceph的原有CRUSH算法的功能是通過傳入的PG(Placement Group，置放群組)進行相應的哈希Hash運算，選出一個存儲主節點和多個副本節點，所以當PG不變，所選擇的OSD組合也不會發生變化，完成讀寫的初步尋址功能，同時其中的OSD若發生變化，能自發的從其它節點進行數據的恢復。存儲服務請求分割成等大的小對象，小對象所集合產生的邏輯組PG能按照預設的OSD權重平均分配到每個OSD，從而讓系統和運維人員無需去理會OSD的情況。但是，OSD本身的差異性并不能完全通過權重來精準反映，權重只是一個概率性選擇問題，并不是一個確定的比例；同時，假設當PG宏觀均衡的分配到每一個OSD上的時候，每個OSD上的PG數據假設一致，但是PG的差異性卻沒有被考慮，PG雖然為對象的邏輯集合(并非數據實體)，但是數據的遷移和存儲的選擇單位卻是以PG為最小單位，對象映射到PG是通過Hash運算取余的結果，所以，并不是每個PG上所映射的對象都是一致的，PG大小也是不一致的。同時，若是存儲分配不均衡，造成單節點的使用過載，就會使整個存儲系統處于不可用的狀態。

因為Ceph的存儲選擇和映射過程與傳統的使用MDS(MetaData Server，元數據服務器)的存儲系統并不一樣，現有的基于權重的調整手段無法準確控制遷出的數量和遷出的方向，同時也無法預測此次調整是否會引發數據雪崩(一個過載的OSD的調整數據遷出后，會引發更多的OSD過載)。因此，需要一種新的Ceph自動均衡存儲方法，能夠根據PG使用的真實情況進行實時的數據遷移，并能在遷移的同時保證此次的遷移對于系統的單節點使用率均衡具有良性作用。

發明內容

本發明要解決的技術問題：針對現有技術的上述問題，提供一種基于分級映射的Ceph存儲系統自動均衡存儲方法，本發明能夠實現在基于Ceph存儲系統的分布式工作任務的環境中的存儲自動均衡，使得高負載的單節點能自主的進行均衡調整，精準控制數據的遷出方向和遷出數量，從而保證系統的穩定。

為了解決上述技術問題，本發明采用的技術方案為：

一種基于分級映射的Ceph存儲系統自動均衡存儲方法，實施步驟包括：