[發明專利]一種基于RDMA的高并發數據傳輸方法

有效

• 申請號: 201611261723.2
• 申請日: 2016-12-30
• 公開（公告）號: CN106657365B
• 公開（公告）日: 2019-12-17
• 發明（設計）人: 陸游游;舒繼武;陳游旻
• 申請（專利權）人: 清華大學
• 主分類號: H04L29/08
• 分類號: H04L29/08
• 代理公司: 11201 北京清亦華知識產權代理事務所(普通合伙)
• 代理人: 張潤

本發明公開了一種基于RDMA的高并發數據傳輸方法，包括：在客戶端接入數據傳輸系統前，構建分級緩沖區；實施遠程數據讀寫時，由所述客戶端主動執行用戶緩沖區、所述分級緩沖區和遠端存儲區之間的數據轉移；服務端在所述遠程存儲區的每個獨立數據塊的首部設置鎖字段，用于并發控制，當多客戶端并發讀寫數據時，通過服務端本地加鎖、客戶端遠程解鎖的分布式鎖協議進行并發控制。本發明具有如下優點：減少文件在讀寫時的數據復制、降低服務端處理壓力，并提供高效的并發控制。

技術領域

本發明涉及分布式存儲系統領域，特別涉及一種基于RDMA的高并發數據傳輸方法。

背景技術

遠程直接內存訪問(Remote Direct Memory Access，RDMA)是指在沒有雙方主機操作系統直接參與下，直接訪問遠端內存，從而提供高帶寬、低延遲的特性。

分布式環境下的數據傳輸決定了系統整體的I/O性能，這類技術被廣泛的應用在分布式文件系統和數據庫系統中。傳統的分布式系統大多以磁盤作為存儲介質，并通過基于TCP/IP的遠程過程調用模塊進行數據傳輸，由于磁盤帶寬低，延遲高，因此網絡傳輸模塊本身不會成為瓶頸，近年來，內存日益廉價，將存儲和計算轉移到內存的內存計算已經成為一種趨勢，存儲介質性能提升的同時，網絡傳輸也面臨極大的挑戰。

目前，尚不存在通用的數據傳輸模塊，用于高效處理不同的網絡I/O特性，同時，在并發控制上，仍采用集中式的同步模型，嚴重影響系統的可擴展性。

發明內容

本發明旨在至少解決上述技術問題之一。

為此，本發明的目的在于提出一種減少文件在讀寫時的數據復制、降低服務端處理壓力，并提供高效的并發控制的基于RDMA的高并發數據傳輸方法。

為了實現上述目的，本發明的實施例公開了一種基于RDMA的高并發數據傳輸方法，在所述高并發數據傳輸方法中，數據存儲在所述數據傳輸系統的各節點內存中，所述數據傳輸系統的各節點通過RDMA進行網絡互聯，所述數據傳輸系統包括客戶端和服務端，所述客戶端是數據遠程讀寫請求的發起者，所述服務端用于存儲和管理共享數據，并發控制依賴于分布式鎖協議，所述分布式鎖包含共享式讀鎖和獨享式寫鎖，該方法包括以下步驟：S1：在所述客戶端接入所述數據傳輸系統前，構建分級緩沖區，其中，所述分級緩沖區用于遠程數據收發時進行數據的臨時存放；S2：實施遠程數據讀寫時，由所述客戶端主動執行用戶緩沖區、所述分級緩沖區和遠端存儲區之間的數據轉移；S3：所述服務端在所述遠程存儲區的每個獨立數據塊的首部設置鎖字段，用于并發控制，當多客戶端并發讀寫數據時，通過所述分布式鎖協議進行并發控制。

根據本發明實施例的基于RDMA的高并發數據傳輸方法，減少文件在讀寫時的數據復制、降低服務端處理壓力，并提供高效的并發控制。

另外，根據本發明上述實施例的基于RDMA的高并發數據傳輸方法，還可以具有如下附加的技術特征：

進一步地，所述分級緩沖區注冊到網卡，用于數據中轉，在執行遠程數據傳輸時，由緩沖區調度器進行管理。

進一步地，所述分級緩沖區被切分為不同大小的多個內存塊，所述多個內存塊由系統配置文件統一設置；其中，用空閑塊元數據對所述分級緩沖區內的所有內存塊的使用情況進行統一描述，當所述客戶端線程申請內存塊時，更新所述空閑塊元數據描述占用信息，當所述客戶端完成數據傳輸后，釋放相應的內存塊。

進一步地，所述緩沖區調度器用于：當所述緩沖區調度器收到所述客戶端的線程申請內存塊請求之后，通過匹配算法獲取適合大小的內存塊；所述緩沖區調度器通過全局鎖對空閑塊元數據加鎖，并查詢對應大小內存塊的使用情況，以占用最先查詢到的空閑內存塊；所述緩沖區調度器返回占用的所述空閑內存塊的地址。

進一步地，所述匹配算法為：根據傳輸數據的大小選擇相應大小的內存塊。