[發明專利]機器學習和RDMA加速的鍵值存儲讀訪問方法及系統

有效

• 申請號: 202010311855.1
• 申請日: 2020-04-20
• 公開（公告）號: CN111538603B
• 公開（公告）日: 2022-03-22
• 發明（設計）人: 陳榕;魏星達;陳海波;臧斌宇
• 申請（專利權）人: 上海交通大學
• 主分類號: G06F9/54
• 分類號: G06F9/54;G06N3/04;G06N20/00
• 代理公司: 上海漢聲知識產權代理有限公司 31236
• 代理人: 胡晶

本發明提供了一種機器學習和RDMA加速的鍵值存儲讀訪問方法及系統，包括：步驟S1：采用機器學習模型來預測服務器端鍵值存儲的位置，令客戶端通過遠程過程調用獲取服務器端的學習完的模型；步驟S2：在客戶端處理用戶的鍵值請求時，令客戶端首先通過獲取的機器學習模型來預測鍵值請求的鍵所對應的地址，最后通過RDMA單向操作來讀回請求的鍵所對應的值。本發明采用RDMA單向(one?sided)操作來繞過服務器端CPU處理鍵值請求，有效的減少服務器端處理器的利用。

技術領域

本發明涉及網絡技術領域，具體地，涉及機器學習和RDMA加速的鍵值存儲讀訪問方法及系統。尤其地，涉及使用機器學習和RDMA來實現高吞吐，低延遲，低CPU利用率的基于網絡的內存鍵值存儲讀訪問的方法和系統。

背景技術

基于網絡的內存鍵值存儲訪問對現代網絡應用非常重要，比如加速傳統數據庫的訪問性能。由于針對鍵值存儲的訪問都在這些應用的關鍵路徑上，因此對鍵值存儲訪問的性能十分重要。同時，這些鍵值存儲系統需要有低的處理器利用率；以降低系統的能耗并減少其他應用對鍵值存儲系統的性能影響。

隨著Remote Direct Memory Access(RDMA)，一種新興的網絡技術在數據中心的普及，人們開始利用RDMA來實現低CPU利用率的鍵值存儲系統。特別的，RDMA提供了新的原語(one-sided)，使得客戶端可以利用單向(one-sided)操作繞過服務器端的CPU來讀寫服務器端的內存。這樣，利用單向(one-sided)原語來實現鍵值存儲訪問，客戶端便能夠完全繞過服務器端的處理器，達到低CPU利用率。

然而，盡管RDMA具有高吞吐和低延遲的特性，利用RDMA的鍵值存儲通常沒有完全利用RDMA的高性能。這是由于RDMA單向(one-sided)操作只提供了有限的語義，使得基于RDMA單向(one-sided)的鍵值存儲操作需要多個RDMA操作來完成。這是由于傳統的鍵值存儲的索引(Index)比如B+Tree的操作無法使用一次RDMA操作完成。這樣，即使單個RDMA操作具有非常高的性能，使用多個RDMA請求來完成一個鍵值請求也有非常大的開銷。

本發明基于一個觀察：基于機器學習(machine learning)的模型可以根據鍵值對(key-value pair)的鍵(key)來預測值所存貯的位置。這樣，我們可以利用機器學習模型來簡化鍵值存儲的的索引操作；這樣使得我們可以用更少的RDMA操作來索引存儲。

雖然有使用機器學習模型來加速單機的鍵值存儲，如何高效的利用RDMA one-sided操作來加速基于網絡的鍵值存儲依舊是一個需要解決的問題。

發明內容

針對現有技術中的缺陷，本發明的目的是提供一種機器學習和RDMA加速的鍵值存儲讀訪問方法及系統。

根據本發明提供的一種機器學習和RDMA加速的鍵值存儲讀訪問方法，包括：

步驟S1：采用機器學習模型來預測服務器端鍵值存儲的位置，令客戶端通過遠程過程調用獲取服務器端的學習完的模型；

步驟S2：在客戶端處理用戶的鍵值請求時，令客戶端首先通過獲取的機器學習模型來預測鍵值請求的鍵所對應的地址，最后通過RDMA單向操作來讀回請求的鍵所對應的值。

優選地，所述步驟S2包括：

步驟S201：客戶端判斷是否已接收到服務器端的的機器學習模型：如果沒有接收到，則執行步驟S206；否則，則執行步驟S202；

步驟S202：令客戶端使用機器學習模型預測鍵值讀請求的鍵所對應值在服務器端的位置的范圍，執行步驟S203；

步驟S203：令客戶端根據步驟S202預測的范圍，使用一次RDMA單向讀操作將對應范圍的鍵以及其所對應的值的地址取回，執行步驟S204；