[發明專利]流量控制方法、裝置、設備和計算機存儲介質

有效

• 申請號: 202110470780.6
• 申請日: 2021-04-28
• 公開（公告）號: CN113225265B
• 公開（公告）日: 2022-10-28
• 發明（設計）人: 張濤;何中軍;李芝
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: H04L47/215
• 分類號: H04L47/215;H04L47/6275;H04L43/10
• 代理公司: 北京鴻德海業知識產權代理有限公司 11412
• 代理人: 田宏賓

1.一種流量控制方法，應用于包含M個等級的計算資源，每個計算資源對應有至少N個隊列，所述M為正整數，所述N為大于1的正整數；該方法包括：

接收服務請求；

確定所述服務請求適用的計算資源等級；

依據所述服務請求的產品形式、應用形式以及服務等級中的至少一種，從所述計算資源等級對應的至少N個隊列中確定對應的隊列；

將所述服務請求發送至確定的隊列；

其中，所述各隊列被配置有權值，以便計算資源對對應的各隊列按照權值進行輪詢；

在所述確定所述服務請求適用的計算資源等級之前，還包括：按照等級從高到低的順序，依次針對各計算資源等級執行以下熔斷處理：

判斷計算資源等級是否觸發熔斷狀態，如果否，則從該計算資源等級及其之下的服務等級中執行確定所述服務請求適用的計算資源等級；如果是，則基于請求拒絕概率值確定是否對所述服務請求進行拒絕處理；

若不對所述服務請求進行拒絕處理，則從該計算資源等級及其之下的服務等級中執行確定所述服務請求適用的計算資源等級；

若對所述服務請求進行拒絕處理，則針對下一級計算資源等級轉至執行所述判斷計算資源等級是否觸發熔斷狀態。

2.根據權利要求1所述的方法，其中，確定所述服務請求適用的計算資源等級包括：

按照等級從高到低的順序，判斷計算資源等級對應的令牌桶中是否存在足夠的令牌數，如果是，確定該計算資源等級為所述服務請求適用的計算資源等級；否則，對下一級計算資源等級執行所述判斷。

3.根據權利要求2所述的方法，還包括：

若所有計算資源等級對應的令牌桶均不存在足夠的令牌數，則拒絕所述服務請求。

4.根據權利要求2所述的方法，其中，所述判斷計算資源等級對應的令牌桶中是否存在足夠的令牌數包括：

依據所述服務請求的每秒字節數BPS確定要消耗的令牌數；

判斷所述計算資源等級對應的令牌桶內當前令牌數是否大于或等于所述要消耗的令牌數，如果是，則確定存在足夠的令牌數。

5.根據權利要求2所述的方法，還包括：

周期性地和/或基于事件觸發地探知各等級的計算資源的可用性；

依據探知結果維護各計算資源等級對應的令牌桶內的令牌數。

6.根據權利要求1所述的方法，其中，所述判斷計算資源等級是否觸發熔斷狀態包括：

判斷最近預設時長內該計算資源等級的請求失敗比例是否大于或等于預設的比例閾值，如果是，則觸發熔斷狀態。

7.根據權利要求1所述的方法，其中，所述基于請求拒絕概率值確定是否對所述服務請求進行拒絕處理包括：

按照最近預設時長內該計算資源等級的接收服務請求數、響應成功請求數以及預設的該計算資源等級的敏感度參數，確定所述請求拒絕概率值；

按照所述請求拒絕概率值，確定是否對所述服務請求進行拒絕處理。

8.根據權利要求1至7中任一項所述的方法，其中，所述服務請求包括翻譯請求；

所述計算資源為翻譯服務資源。

9.根據權利要求8所述的方法，其中，確定所述服務請求適用的計算資源等級包括：

確定所述翻譯請求所請求翻譯的文本長度；

若文本長度大于或等于預設第一長度閾值，則從第一等級開始確定所述翻譯請求適用的計算資源等級；

若文本長度小于預設的第二長度閾值，則從第二等級開始確定所述翻譯請求適用的計算資源等級；

所述第一長度閾值大于或等于所述第二長度閾值，所述第一等級高于所述第二等級。