[發(fā)明專利]一種網(wǎng)絡(luò)請求的自適應(yīng)限流方法、裝置、設(shè)備及介質(zhì)

在審

• 申請?zhí)枺?/td>: 202110948255.0
• 申請日: 2021-08-18
• 公開（公告）號: CN113691604A
• 公開（公告）日: 2021-11-23
• 發(fā)明（設(shè)計）人: 陳俊全;姚志誠
• 申請（專利權(quán)）人: 深圳鼎盛電腦科技有限公司
• 主分類號: H04L29/08
• 分類號: H04L29/08;H04L12/813
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 潘登

1.一種網(wǎng)絡(luò)請求的自適應(yīng)限流方法，其特征在于，所述方法由請求服務(wù)器執(zhí)行，所述請求服務(wù)器與目標服務(wù)器連接，用于向所述目標服務(wù)器發(fā)送網(wǎng)絡(luò)請求；所述方法包括：

從請求隊列中獲取網(wǎng)絡(luò)請求，并發(fā)送至所述目標服務(wù)器；

收集在第一預設(shè)時段內(nèi)所述網(wǎng)絡(luò)請求的響應(yīng)信息，以及，收集在第二預設(shè)時段內(nèi)所述網(wǎng)絡(luò)請求的響應(yīng)信息；其中，所述響應(yīng)信息包括平均耗時、網(wǎng)絡(luò)請求過期數(shù)量比率以及接口錯誤數(shù)量比率中的至少一個維度；

統(tǒng)計所述網(wǎng)絡(luò)請求的響應(yīng)信息在所述第二預設(shè)時段內(nèi)相對于所述第一預設(shè)時段內(nèi)的增長率；

若所述響應(yīng)信息的增長率滿足預設(shè)約束條件，則基于所述響應(yīng)信息的增長率進行自適應(yīng)限流。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，從請求隊列中獲取網(wǎng)絡(luò)請求，并發(fā)送至所述目標服務(wù)器，包括：

從所述請求隊列中獲取網(wǎng)絡(luò)請求，并發(fā)送至令牌桶；

從所述令牌桶中獲取所述網(wǎng)絡(luò)請求的令牌，并基于所述令牌將所述網(wǎng)絡(luò)請求發(fā)送至所述目標服務(wù)器；

相應(yīng)的，基于所述響應(yīng)信息的增長率進行自適應(yīng)限流，包括：

基于所述響應(yīng)信息的增長率調(diào)整令牌桶的令牌并行下發(fā)數(shù)量和/或調(diào)整令牌的生成速度。

3.根據(jù)權(quán)利要求1或2所述的方法，其特征在于，從請求隊列中獲取網(wǎng)絡(luò)請求之前，還包括：

接收至少一個網(wǎng)絡(luò)請求，并根據(jù)各所述網(wǎng)絡(luò)請求的請求時間戳將各所述網(wǎng)絡(luò)請求存放至所述請求隊列。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，在基于所述響應(yīng)信息的增長率進行自適應(yīng)限流之后，還包括：

基于第一預設(shè)時段內(nèi)以及第二預設(shè)時段內(nèi)各所述網(wǎng)絡(luò)請求的訪問耗時信息、訪問請求過期信息以及訪問接口錯誤信息中的至少一個維度更新所述請求隊列。

5.根據(jù)權(quán)利要求2所述的方法，其特征在于，若所述響應(yīng)信息的增長率滿足預設(shè)約束條件，則基于所述響應(yīng)信息的增長率調(diào)整令牌桶的令牌并行下發(fā)數(shù)量和/或調(diào)整令牌的生成速度，包括：

若所述平均耗時的增長率大于第一預設(shè)值，則基于所述平均耗時的增長率調(diào)整令牌桶的令牌并行下發(fā)數(shù)量和/或調(diào)整令牌的生成速度。

6.根據(jù)權(quán)利要求2所述的方法，其特征在于，若所述響應(yīng)信息的增長率滿足預設(shè)約束條件，則基于所述響應(yīng)信息的增長率調(diào)整令牌桶的令牌并行下發(fā)數(shù)量和/或調(diào)整令牌的生成速度，包括：

若所述網(wǎng)絡(luò)請求過期數(shù)量比率的增長率大于第二預設(shè)值，則基于所述網(wǎng)絡(luò)請求過期數(shù)量比率的增長率調(diào)整令牌桶的令牌并行下發(fā)數(shù)量和/或調(diào)整令牌的生成速度。

7.根據(jù)權(quán)利要求2所述的方法，其特征在于，若所述響應(yīng)信息的增長率滿足預設(shè)約束條件，則基于所述響應(yīng)信息的增長率調(diào)整令牌桶的令牌并行下發(fā)數(shù)量和/或調(diào)整令牌的生成速度，包括：

若所述接口錯誤數(shù)量比率的增長率大于第三預設(shè)值，則基于所述接口錯誤數(shù)量比率的增長率調(diào)整令牌桶的令牌并行下發(fā)數(shù)量和/或調(diào)整令牌的生成速度。

8.一種網(wǎng)絡(luò)請求的自適應(yīng)限流裝置，其特征在于，包括：

網(wǎng)絡(luò)請求獲取模塊，用于從請求隊列中獲取網(wǎng)絡(luò)請求，并發(fā)送至所述目標服務(wù)器；

響應(yīng)信息收集模塊，用于收集在第一預設(shè)時段內(nèi)所述網(wǎng)絡(luò)請求的響應(yīng)信息，以及，收集在第二預設(shè)時段內(nèi)所述網(wǎng)絡(luò)請求的響應(yīng)信息；其中，所述響應(yīng)信息包括平均耗時、網(wǎng)絡(luò)請求過期數(shù)量比率以及接口錯誤數(shù)量比率中的至少一個維度；

增長率統(tǒng)計模塊，用于統(tǒng)計所述網(wǎng)絡(luò)請求的響應(yīng)信息在所述第二預設(shè)時段內(nèi)相對于所述第一預設(shè)時段內(nèi)的增長率；

自適應(yīng)限流模塊，用于若所述響應(yīng)信息的增長率滿足預設(shè)約束條件，則基于所述響應(yīng)信息的增長率進行自適應(yīng)限流。

9.一種電子設(shè)備，其特征在于，包括：

一個或多個處理器；

存儲裝置，用于存儲一個或多個程序，

當所述一個或多個程序被所述一個或多個處理器執(zhí)行，使得所述一個或多個處理器實現(xiàn)如權(quán)利要求1-7任一項所述的網(wǎng)絡(luò)請求的自適應(yīng)限流方法。

10.一種計算機可讀存儲介質(zhì)，其上存儲有計算機程序，其特征在于，該程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1-7任一項所述的網(wǎng)絡(luò)請求的自適應(yīng)限流方法。