[發明專利]流量控制方法、裝置、設備及計算機可讀存儲介質

在審

• 申請號: 202110620488.8
• 申請日: 2021-06-03
• 公開（公告）號: CN113364697A
• 公開（公告）日: 2021-09-07
• 發明（設計）人: 丁海苗;趙學亮;曾廣銳
• 申請（專利權）人: 深圳前海微眾銀行股份有限公司
• 主分類號: H04L12/801
• 分類號: H04L12/801;H04L12/851
• 代理公司: 深圳市世紀恒程知識產權代理事務所 44287
• 代理人: 胡慶

本發明公開了一種流量控制方法、裝置、設備及計算機可讀存儲介質，該方法包括：對服務消費方發送的各初始請求指令進行攔截，并獲取所述初始請求指令所指示的服務提供方當前的資源使用率；根據所述服務提供方當前的資源使用率，預測所述服務提供方接收所述初始請求指令之后的第一資源使用率，若大于預設使用率閾值，則對所述初始請求指令進行排序，以確定所述初始請求指令對應的優先級順序；按照所述優先級順序將所述初始請求指令分批次發送至所述服務提供方進行處理，以對所述初始請求指令的流量進行控制。通過流量控制保證在高并發請求時，避免系統擁堵，并對優先級較高的核心業務的請求指令優先響應，提高服務提供方系統的可用性和穩定性。

技術領域

本發明涉及通信技術領域，尤其涉及一種流量控制方法、裝置、設備及計算機可讀存儲介質。

背景技術

目前，對于一個不斷發展的應用系統而言，會構建不同的子系統以支撐不斷增加的業務需求和功能，子系統之間的開發、部署和運維模式一般存在較大差異，如果沒有統一的服務框架進行技術層面的拉通，開發和運維效率都將受到很大制約，因此，需要對傳統的集中式的系統架構進行服務化改造，服務化改造的核心技術就是分布式服務框架。顧名思義，系統應用部署在超過一臺服務器或虛擬機上，且各分開部署的部分彼此通過各種通訊協議交互信息，就可算作分布式部署，而負載均衡是分布式服務架構中至關重要的一項技術，該技術一般使用隨機，輪詢，加權隨機，加權輪詢等方法將請求指令轉發到相應的服務器上。

當用戶通過不同的前端系統提交訪問請求時，請求指令便通過前置或管理臺系統進入微服務內部，為完成用戶的某個前端請求，內部服務之間需要相互調用，完成數據的采集和處理，而在發生突發業務，請求指令數量激增時，會導致大量請求指令堆積在流經的各個系統隊列中，導致同一系統對應的各臺服務器壓力過大，處理能力下降，嚴重的甚至會導致系統癱瘓或宕機，影響系統的可用性和穩定性。

發明內容

本發明的主要目的在于提供一種流量控制方法、裝置、設備及計算機可讀存儲介質，旨在解決請求指令數量較多時，導致服務器壓力過大，處理能力下降，從而影響系統的可用性和穩定性的技術問題。

為實現上述目的，本發明提供一種流量控制方法，所述流量控制方法包括以下步驟：

對服務消費方發送的各初始請求指令進行攔截，并獲取所述初始請求指令所指示的服務提供方當前的資源使用率；

根據所述服務提供方當前的資源使用率，預測所述服務提供方接收所述初始請求指令之后的第一資源使用率；

若所述第一資源使用率大于預設使用率閾值，則對所述初始請求指令進行排序，以確定所述初始請求指令對應的優先級順序；

按照所述優先級順序將所述初始請求指令分批次發送至所述服務提供方進行處理，以對所述初始請求指令的流量進行控制。

可選地，所述按照所述優先級順序將所述初始請求指令分批次發送至所述服務提供方進行處理的步驟包括：

按照所述優先級順序，獲取所述初始請求指令中優先級最高的第一請求指令，并預測所述服務提供方接收所述第一請求指令之后的第二資源使用率；

若所述第二資源使用率小于所述預設使用率閾值，則將所述第一請求指令發送至所述服務提供方進行處理，返回并執行所述獲取所述初始請求指令中優先級最高的第一請求指令，并預測所述服務提供方接收所述第一請求指令之后的第二資源使用率的步驟，直到所述第二資源使用率大于或等于所述預設使用率閾值。

可選地，所述將所述第一請求指令發送至所述服務提供方進行處理，返回并執行所述獲取所述初始請求指令中優先級最高的第一請求指令，并預測所述服務提供方接收所述第一請求指令之后的第二資源使用率的步驟，直到所述第二資源使用率大于或等于所述預設使用率閾值的步驟之后，還包括：

確定所述第二資源使用率與所述預設使用率閾值之間的使用率差值；