[發明專利]緩存管理方法及其設備

在審

• 申請號: 201610387869.5
• 申請日: 2016-06-02
• 公開（公告）號: CN107463468A
• 公開（公告）日: 2017-12-12
• 發明（設計）人: 陳輝
• 申請（專利權）人: 北京京東尚科信息技術有限公司;北京京東世紀貿易有限公司
• 主分類號: G06F11/20
• 分類號: G06F11/20;G06F9/50
• 代理公司: 中科專利商標代理有限責任公司11021
• 代理人: 倪斌

1.一種用于管理緩存的緩存管理方法，其中，所述緩存包括多個分布式緩存集群，所述方法包括：

獲取所述多個分布式緩存集群中每個緩存集群的存活狀況和響應時間；

根據所述存活狀況和響應時間為所述每個緩存集群分配緩存權重；以及

選擇所述緩存權重最高的緩存集群作為數據讀寫的緩存主集群。

2.根據權利要求1所述的方法，還包括：

接收應用程序發送的緩存集群請求；

根據所述緩存集群請求為所述應用程序分配所述多個分布式緩存集群中的緩存集群。

3.根據權利要求1所述的方法，其中，獲取所述多個分布式緩存集群中每個緩存集群的存活狀況和響應時間包括：

以第一預定時間間隔輪詢所述多個分布式緩存集群中每個緩存集群，以獲得針對所述每個緩存集群的第一響應時間；以及

根據所述第一響應時間將所述多個分布式緩存集群分配到不同隊列中。

4.根據權利要求3所述的方法，其中，根據所述響應時間將所述多個分布式緩存集群分配到不同隊列中包括：

如果連續N次未檢測到緩存集群的響應時間，則所述緩存集群被分配到失敗集群隊列中；或

如果緩存集群的響應時間連續M次超過第一預定閾值，則所述緩存集群被分配到異常集群隊列中；或

如果緩存集群的響應時間連續P次小于第二預定閾值，則所述緩存集群被分配到工作集群隊列中，

其中，所述M、N和P是大于等于1的整數。

5.根據權利要求4所述的方法，其中，M、N、P等于5，第一預定閾值和第二預定閾值等于100ms。

6.根據權利要求1所述的方法，還包括：

以第二預定時間間隔對工作隊列中的每個緩存集群進行輪詢，以獲得針對所述每個緩存集群的第二響應時間；以及

根據所述第二響應時間獲得針對所述每個緩存集群的優先級和/或權重因子。

7.根據權利要求6所述的方法，還包括：

根據所述優先級和/或權重因子向所述每個緩存集群分配針對用戶的讀寫操作的數據流量。

8.根據權利要求1所述的方法，還包括：

啟動緩存集群自動切換：

當工作隊列中的緩存集群的權重因子發生改變時或當工作隊列中的緩存集群的對象發生改變時，將權重因子最高的緩存集群切換為緩存主集群；或

不啟動緩存集群自動切換：

當工作隊列中的緩存集群的權重因子發生改變時或當工作隊列中的緩存集群的對象發生改變時，通知操作人員手動切換緩存集群。

9.一種用于管理緩存的設備，其中，所述緩存包括多個分布式緩存集群，所述設備包括：

檢測模塊，用于獲取所述多個分布式緩存集群中每個緩存集群的存活狀況和響應時間；

權重分配模塊，用于根據所述存活狀況和響應時間為所述每個緩存集群分配緩存權重；以及

集群管理模塊，用于選擇所述緩存權重最高的緩存集群作為數據讀寫的緩存主集群。

10.根據權利要求9所述的設備，還包括：

接收模塊，用于接收應用程序發送的緩存集群請求；

集群分配模塊，用于根據所述緩存集群請求為所述應用程序分配所述多個分布式緩存集群中的緩存集群。

11.根據權利要求9所述的設備，其中，所述檢測模塊包括：

第一輪詢子模塊，用于以第一預定時間間隔輪詢所述多個分布式緩存集群中每個緩存集群，以獲得針對所述每個緩存集群的第一響應時間；以及

隊列分配子模塊，用于根據所述第一響應時間將所述多個分布式緩存集群分配到不同隊列中。

12.根據權利要求11所述的設備，其中，所述隊列分配子模塊還用于：

如果連續N次未檢測到緩存集群的響應時間，則將所述緩存集群分配到失敗集群隊列中；或

如果緩存集群的響應時間連續M次超過第一預定閾值，則將所述緩存集群分配到異常集群隊列中；或

如果緩存集群的響應時間連續P次小于第二預定閾值，則將所述緩存集群分配到工作集群隊列中，

其中，所述M、N和P是大于等于1的整數。