[發明專利]分布式集群存儲方法、系統、裝置及計算機可讀存儲介質在審
| 申請號: | 201910936872.1 | 申請日: | 2019-09-29 |
| 公開(公告)號: | CN110650208A | 公開(公告)日: | 2020-01-03 |
| 發明(設計)人: | 劉子寧 | 申請(專利權)人: | 北京浪潮數據技術有限公司 |
| 主分類號: | H04L29/08 | 分類號: | H04L29/08;G06N3/04 |
| 代理公司: | 11227 北京集佳知識產權代理有限公司 | 代理人: | 劉新雷 |
| 地址: | 100085 北京*** | 國省代碼: | 北京;11 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 存儲性能信息 存儲 獎勵 集群 存儲分配 智能代理 計算機可讀存儲介質 神經網絡模型 數據存儲分配 優化神經網絡 分布式集群 分配結果 節點負載 歷史節點 輸出數據 梯度算法 申請 均衡 輸出 分析 | ||
1.一種分布式集群存儲方法,其特征在于,包括:
獲取存儲集群中每個節點的存儲性能信息;
利用每個節點的存儲性能信息,得到每個節點的獎勵值;
獲取存儲集群中每個節點的狀態信息;
利用智能代理模型接收每個節點的獎勵值和狀態信息,所述智能代理模型利用每個節點的獎勵值和狀態信息,輸出與當前每個節點的獎勵值和狀態信息對應的數據存儲分配任務,完成數據的存儲分配;
其中,所述智能代理模型為基于神經網絡模型,利用策略梯度算法和所述存儲集群中節點的獎勵值優化神經網絡參數,利用歷史節點的狀態信息進行訓練而成的模型。
2.根據權利要求1所述的分布式集群存儲方法,其特征在于,所述獲取存儲集群中每個節點的存儲性能信息的過程,包括:
獲取存儲集群中每個節點單位時間內的I/O數據量和帶寬。
3.根據權利要求2所述的分布式集群存儲方法,其特征在于,所述利用每個節點的存儲性能信息,得到每個節點的獎勵值的過程,包括:
利用每個節點的單位時間內的I/O數據量和帶寬之和,作為每個節點的獎勵值。
4.根據權利要求1所述的分布式集群存儲方法,其特征在于,所述智能代理模型包括分別由全連接網絡組成的輸入層、隱藏層和輸出層。
5.根據權利要求4所述的分布式集群存儲方法,其特征在于,所述智能代理模型包括輸入層、一層隱藏層和輸出層,其中,隱藏層包括64個節點。
6.根據權利要求1至5任一項所述的分布式集群存儲方法,其特征在于,所述智能代理模型基于策略梯度算法,利用參數更新公式更新神經網絡參數;
其中,所述參數更新公式為:θn=θ+α▽θlogπθ(st,at)vt;
式中,θn表示更新后的神經網絡參數,θ表示更新前的神經網絡參數,a表示預設的學習率,πθ表示智能代理模型,st表示t時刻環境的狀態,at表示t時刻智能代理模型輸出的數據存儲分配任務,vt表示在t時刻πθ在單位時間內所獲得的所述存儲集群各節點的累積獎勵值。
7.根據權利要求1至5任一項所述的分布式集群存儲方法,其特征在于,所述獲取存儲集群中每個節點的狀態信息的過程,包括:
獲取存儲集群中每個節點的真實狀態信息;
利用歸一化公式對每個節點的真實狀態信息進行歸一化,得到每個節點的狀態信息;
其中,所述歸一化公式為:
式中,D表示歸一化后的每個節點的狀態信息,Dr表示真實狀態信息,μD表示各節點的真實狀態信息的均值,σD表示各節點的真實狀態信息的標準差。
8.一種分布式集群存儲系統,其特征在于,包括:
性能信息獲取模塊,用于獲取存儲集群中每個節點的存儲性能信息;
獎勵值計算模塊,用于利用每個節點的存儲性能信息,得到每個節點的獎勵值;
狀態信息獲取模塊,用于獲取存儲集群中每個節點的狀態信息;
任務分配模塊,用于利用智能代理模型接收每個節點的獎勵值和狀態信息,所述智能代理模型利用每個節點的獎勵值和狀態信息,輸出與當前每個節點的獎勵值和狀態信息對應的數據存儲分配任務,完成數據的存儲分配;
其中,所述智能代理模型為基于神經網絡模型,利用策略梯度算法和所述存儲集群中節點的獎勵值優化神經網絡參數,利用歷史節點的狀態信息進行訓練而成的模型。
9.一種分布式集群存儲裝置,其特征在于,包括:
存儲器,用于存儲計算機程序;
處理器,用于執行所述計算機程序以實現如權利要求1至7任一項所述的分布式集群存儲方法。
10.一種計算機可讀存儲介質,其特征在于,所述計算機可讀存儲介質上存儲有計算機程序,所述計算機程序被處理器執行時實現如權利要求1至7任一項所述的分布式集群存儲方法。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于北京浪潮數據技術有限公司,未經北京浪潮數據技術有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201910936872.1/1.html,轉載請聲明來源鉆瓜專利網。
- 上一篇:一種超大視頻文件斷點上傳的方法
- 下一篇:實現負載均衡的方法和裝置





