[發明專利]一種便于存儲節點數量擴增的并行存儲系統構造方法

無效

• 申請號: 200710018109.8
• 申請日: 2007-06-22
• 公開（公告）號: CN101079897A
• 公開（公告）日: 2007-11-28
• 發明（設計）人: 伍衛國;張虎;董小社;錢德沛;王恩東;胡雷鈞;戴羅庚
• 申請（專利權）人: 西安交通大學;浪潮(北京)電子信息產業有限公司
• 主分類號: H04L29/08
• 分類號: H04L29/08
• 代理公司: 西安通大專利代理有限責任公司
• 代理人: 陳翠蘭

技術領域

本發明涉及計算機應用技術領域，提供了一種便于存儲節點數量擴增的并行存儲系統構造方法。

背景技術

并行存儲系統常面臨增加新的存儲節點以滿足應用對存儲空間和存儲帶寬方面不斷增長的需求。然而現有并行存儲系統多以輪轉的數據分布方式存儲數據，數據被按照一定大小分割為數據塊并從零開始順序編號，數據塊根據其編號以取模函數的計算結果來確定其所存儲的節點和節點內的順序號。這種方式下，當需要新增存儲節點后，必須進行數據重均衡操作以保持存儲節點間存儲容量均衡，同時也保證取模函數在節點數目改變前后的一致性。然而，由于取模函數的性質，當新增存儲節點后的節點數目與原有節點數目互質時，幾乎需要移動系統內所有的數據塊，而且大多數數據塊是在原有存儲節點之間移動，這種移動對于新系統內節點間的容量均衡來說是無效的移動。這種無效的移動是為了保證取模函數的一致性，但是對于擁有大數據量的并行存儲系統來說，重均衡操作則會因為移動大量數據而耗用大量的CPU處理能力和帶寬，而且會造成較長時間的系統服務停頓。

針對這種情況，一些并行存儲系統要求新增存儲節點數目為原有節點數目的倍數關系，這樣可以消除無效的數據塊移動，但是對于較大型的并行存儲系統，由于存儲節點數目本身較大，以倍數方式增加新節點，會導致系統擴展的成本巨大，同時也喪失了系統擴展的靈活性，不能十分契合用戶的需求。

在其他領域，某些研究針對數據/對象分布方式進行研究，如web?cache中應用Consistent?Hashing可以實現節點數據量變化時的零無效移動率，但其實現方式是基于不可控的哈希函數，存儲節點間只能做到概率上的容量均衡，且其數據并行度很低。

因此，在并行存儲系統中，尋找新型的數據分布方式時，新方式應該兼顧零無效數據塊移動、存儲節點間存儲容量均衡、并行度高的目標，使得系統更便于節點擴增，減少服務停頓，從而提高系統的可用性。

發明內容

本發明的目的在于克服上述現有技術不足，提供一種便于存儲節點數量擴增的并行存儲系統構造方法，該方法縮短了重均衡操作的時間，提高了重均衡的效率，從而提高了系統的可用性。

本發明的技術方案是這樣實現的：便于存儲節點數量擴增的并行存儲系統構造方法，對于擬存儲在并行存儲系統中的數據，將其進行分塊并從零開始順序編號，根據數據塊的編號及當前系統的存儲節點數目，通過使用按序選取的數據分布方式，可以得到數據塊應該存放的存儲節點編號以及數據塊在該存儲節點內的順序號。

所述的并行存儲系統是由多個存儲節點組成，存儲節點從零開始順序編號并通過網絡互連，數據分塊存儲在多個存儲節點之上。

所述按序選取的數據分布方式是指在一個存儲節點數目為N的并行存儲系統中，數據塊編號到存儲節點編號和節點內順序號的映射過程，該映射過程是模擬存儲節點數從1增加到N的N-1次數據均衡的過程，且每次只增加1個存儲節點，增加的這個存儲節點的編號設定為當前存儲節點的數目減1，則一個數據塊的最終存儲位置為該數據塊經過N-1次數據重均衡操作后被移動到的存儲節點的編號及在該節點內的順序號。

所述的數據塊在存儲節點內的順序號表征的是該數據塊在經過數據分布后，在某個存儲節點上的存儲位置編號，作為該數據塊在某個存儲節點上相對于存儲起始位置的偏移量，當并行存儲系統的存儲節點數為1時，數據塊按照其編號在存儲節點上從小到大順序排列，此時數據塊的編號與其在該存儲節點內的順序號相同。

所述的數據重均衡過程是指一個具有N個存儲節點的并行存儲系統，新增加1個存儲節點后，在原有N個存儲節點上，采用間隔抽取方式選擇相應的數據塊移動到新增存儲節點上，按照數據塊的編號從小到大排序生成其在新存儲節點內的順序號，保留在原N個存儲節點上的數據塊則重新按照編號從小到大排序生成新的順序號，使得原存儲節點內數據塊順序號連續。

間隔抽取方式是指當存儲節點數目為N，新增一個存儲節點時，在原有每個存儲節點上，每間隔N個數據塊選擇一個數據塊，作為將被移動到新增節點上的備選數據塊，間隔小于N則不進行抽取。

本發明在采用按序選取的數據分布方式構造并行存儲系統時，當系統增加存儲節點時，在存儲節點間的數據塊移動量能夠達到最小，所以與采用其他的數據分布方式構造的并行存儲系統相比，縮短了重均衡操作的時間，減少了系統資源消耗。并行存儲系統采用按序選取的數據分布方式，在系統增加新的存儲節點時，可在最少的時間內完成數據重均衡操作，并保證數據訪問的并行度，可以有效減少并行存儲系統服務停頓時間，增強其可用性。

附圖說明

圖1所示是本發明應用按序選取方式的并行存儲系統圖；