[發明專利]一種元數據集群中負載轉移方法及系統

有效

• 申請號: 201410114579.4
• 申請日: 2014-03-25
• 公開（公告）號: CN103916467B
• 公開（公告）日: 2017-02-08
• 發明（設計）人: 王洋;鄭彩平;張軍偉;邵冰清;王利虎;張浩
• 申請（專利權）人: 中國科學院計算技術研究所;天津中科藍鯨信息技術有限公司
• 主分類號: H04L29/08
• 分類號: H04L29/08;G06F9/50
• 代理公司: 北京律誠同業知識產權代理有限公司11006
• 代理人: 祁建國,梁揮

技術領域

本發明涉及集群文件系統的元數據負載分布技術，特別涉及一種元數據集群中多個服務器之間元數據負載轉移方法。

背景技術

在大規模集群文件系統中，元數據與數據服務分離已經成為了一種趨勢。一方面，數據訪問不必通過元數據服務器，而是采用帶外方式直接訪問存儲設備，從而獲取較高的數據訪問性能；另一方面，元數據服務器專門提供元數據服務，卸載了數據訪問負載，從而單臺元數據服務器可以支持更高的客戶端訪問性能，管理更多的存儲設備，支持更大的系統規模擴展。然而，隨著系統規模的不斷擴大，單臺元數據服務器逐漸成為制約系統擴展的瓶頸。為了進一步提升集群文件系統的擴展能力，通常采用多臺元數據服務器構成元數據服務器集群，以分散元數據負載，支持通過增加元數據服務器數量達到集群文件系統的橫向擴展。

以目錄為粒度、把一些子目錄的負載轉移到其他元數據服務器是元數據負載分散的一種常用方法，被Lustre、BWFS等集群文件系統所采用。元數據負載的分布是在子目錄的創建過程中，以創建遠程子目錄的方式將子目錄元數據負載轉移到其他的元數據服務器，即選擇父目錄所在的元數據服務器之外的元數據服務器進行子目錄創建，該子目錄稱為遠程子目錄。遠程子目錄的創建和刪除過程涉及到多個元數據服務器，需要多次的網絡交互開銷和一致性維護開銷，增加了系統實現復雜度，對元數據服務性能,尤其對遠程子目錄創建、刪除延遲性能產生了較大影響。

以典型的Lustre文件系統中基于子目錄的負載轉移方法為例，分析其遠程子目錄的創建和刪除過程的開銷。

Lustre文件系統遠程子目錄創建步驟：

步驟1，客戶端首先選擇一個負載轉移目標元數據服務器RMDS（Remote?MDS），為待創建的子目錄分配FID，FID唯一標識Lustre文件系統中的一個文件或目錄對象；然后發送遠程子目錄創建請求MKDIR到父目錄所在的元數據服務器MMDS（Master?MDS），請求參數中包含客戶端已分配的子目錄FID。

步驟2，父目錄所在的元數據服務器MMDS創建一個分布式事務，在所述事務中完成負載轉移目標元數據服務器RMDS根據FID創建子目錄對象、設置相應對象屬性并同步磁盤、父目錄所在的元數據服務器MMDS在父目錄中添加子目錄項并同步磁盤的操作。所述分布式事務涉及到多個元數據服務器，為保證一致性需要多次的網絡交互和磁盤同步開銷。

Lustre文件系統遠程子目錄刪除步驟：

步驟1，客戶端發送遠程子目錄刪除請求RMDIR到父目錄所在的元數據服務器MMDS。

步驟2，父目錄所在的元數據服務器MMDS創建一個分布式事務，在所述事務中完成父目錄所在元數據服務器MMDS在父目錄中刪除子目錄項并同步、負載轉移目標元數據服務器RMDS釋放子目錄對象并同步的操作。所述分布式事務涉及到多個元數據服務器，為保證一致性需要多次的網絡交互和磁盤同步開銷。

可見，Lustre采用分布式事務日志記錄和磁盤同步寫的方式保證涉及到多個元數據服務器的遠程子目錄創建、刪除操作的一致性。然而，分布式事務需要多次的網絡交互和磁盤同步開銷，對操作延遲影響較大。

發明專利“分布式文件系統虛擬目錄組織及命名空間管理的方法”公開了一種分布式文件系統虛擬目錄組織及命名空間管理的方法，包括以下步驟：根據用戶查詢請求和上下文，利用文件系統中文件元數據，以關系代數的方式按需計算和動態生成虛擬目錄，以虛擬文件視圖的層現形式為用戶提供滿足當前上下文的文件服務；在虛擬目錄命名空間中進行文件創建、刪除、移動、重命名、打開、關閉、讀、寫、截斷的文件操作，以及進行上下文目錄的創建、刪除和重命名的操作。該專利的有益效果為，在大規模海量文件存儲系統中引入按需計算和動態生成的虛擬目錄，克服了傳統層次目錄結構無法提供按需服務的缺點，提供了一種高效的文件檢索和組織形式。在虛擬目錄的組織過程中引入了包含文件屬性和上下文的文件元數據，能根據上下文的變化為用戶主動提供文件服務。但是該專利引入一種新的分布式文件系統虛擬目錄組織和命名空間管理方法，在虛擬目錄中進行文件創建、刪除、重命名等操作，力求能根據上下文的變化為用戶主動提供文件服務。不涉及元數據負載在多元數據服務器之間的分布。