[發明專利]流量控制方法和流量控制系統

有效

• 申請號: 201610577202.1
• 申請日: 2016-07-20
• 公開（公告）號: CN107645456B
• 公開（公告）日: 2021-04-30
• 發明（設計）人: 張宗寶
• 申請（專利權）人: 菜鳥智能物流控股有限公司
• 主分類號: H04L12/823
• 分類號: H04L12/823;H04L12/863;G06Q50/28
• 代理公司: 北京潤澤恒知識產權代理有限公司 11319
• 代理人: 蘇培華

本申請公開一種流量控制方法和流量控制系統，包括：接收第一時間段內的物流數據處理的請求；判斷第一時間段內的所述請求的數目是否超出該第一時間段內所能執行的第一閥值；當判斷所述請求的數目超出所述第一閥值時，判斷超出所述第一閥值的請求的數目是否超出等待閥值；當超出所述第一閥值的請求的數目未超出所述等待閥值時，將所述超出所述第一閥值且未超出等待閥值的請求加入等待隊列；當超出所述第一閥值的請求的數目超出所述等待閥值時，拒絕所述超出等待閥值的請求。本申請實施例通過設置等待隊列，實現了容納更高的瞬時流量，避免了現有技術將超出熱點隊列限流值的請求直接拒絕的缺陷。

技術領域

本申請涉及互聯網領域，尤其涉及一種流量控制方法和流量控制系統。

背景技術

在互聯網業務中，電商系統的穩定性和響應的及時性是決定用戶體驗好壞的重要因素。而在特定的時間，例如“雙十一”期間，大量的用戶可能同時向服務器提交請求，導致峰值大流量的產生。峰值大流量對業務系統直接沖擊會造成系統瞬時癱瘓、數據庫連接數耗空、應用容器處理緩慢甚至進程死掉等問題，對系統的穩定性和性能造成極大的挑戰。

現有技術中，通常使用單機流量控制的方法對流量進行控制。單機流量控制的主要思想在于為每一臺客戶端限定一個流量的最大值。此處的流量可以為每秒請求量(qps，query per second)，也可以是其他單位時間刻度內的請求數。超過這一最大值的客戶端發出的請求會被拒絕，即服務器會返回請求失敗的信息至客戶端。

現有的單機流量控制方法至少存在如下問題：瞬時和長時間大流量可能造成系統癱瘓，導致穩定性降低；軟負載不均導致集群中個別機器的流量超出上述最大值而誤殺；低閥值、大集群無法有效進行流量控制；不具有容錯機制等。

發明內容

鑒于上述問題，提出了本申請實施例以便提供一種克服上述問題或者至少部分地解決上述問題的流量控制方法和流量控制系統。

為解決上述問題，本申請一實施例公開一種流量控制方法，包括：

接收第一時間段內的物流數據處理的請求；

判斷第一時間段內的所述請求的數目是否超出該第一時間段內所能執行的第一閥值；

當判斷所述請求的數目超出所述第一閥值時，判斷超出所述第一閥值的請求的數目是否超出第一等待閥值；

當超出所述第一閥值的請求的數目未超出所述第一等待閥值時，將所述超出所述第一閥值且未超出第一等待閥值的請求加入等待隊列；

當超出所述第一閥值的請求的數目超出所述第一等待閥值時，拒絕所述超出第一等待閥值的請求。

為解決上述問題，本申請另一實施例公開一種流量控制方法，包括：

接收第二時間段內的物流數據處理請求；

判斷所述第二時間段內的接收的請求數目與等待隊列中的請求數目的總和是否超出該第二時間段所能執行的第二閥值；

當判斷所述總和超出該第二閥值時，判斷超出第二閥值的請求的數目是否超出第二等待閥值；

當所述超出第二閥值的請求的數目未超出所述等待閥值時，將所述超出所述第二閥值且未超出等待閥值的請求加入等待隊列；

當所述超出第二閥值的請求的數目超出所述等待閥值時，拒絕所述超出等待閥值的請求。

為解決上述問題，本申請再一實施例提出一種流量控制方系統，包括：

第一接收模塊，用于接收第一時間段內的物流數據處理的請求；

第一判斷模塊，用于判斷第一時間段內的所述請求的數目是否超出該第一時間段內所能執行的第一閥值；