[發明專利]系統的請求處理方法、裝置、電子設備及存儲介質

有效

• 申請號: 202010820851.6
• 申請日: 2020-08-14
• 公開（公告）號: CN112153110B
• 公開（公告）日: 2023-04-14
• 發明（設計）人: 吳慶雙;周振江;馬兵;王浩然;邵傳賢
• 申請（專利權）人: 咪咕文化科技有限公司;中國移動通信集團有限公司
• 主分類號: H04L67/60
• 分類號: H04L67/60;H04L43/0888;H04L43/08
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 苗曉靜

本發明實施例公開了一種系統的請求處理方法、裝置、電子設備及存儲介質，其中，系統的請求處理方法，包括：根據用戶發送的請求，預測當前處理節點處理請求后達到的吞吐量范圍；根據吞吐量范圍判斷當前處理節點處理請求時的用戶的體驗級別；根據體驗級別確定當前處理節點處理請求時的可信區間，其中，可信區間與當前處理節點處理請求時的吞吐量在吞吐量范圍內的概率相關；根據確定的每一個處理節點處理請求時的可信區間，從多個處理節點中選擇處理請求的處理節點。本發明的系統的請求處理方法，利用可信區間理論，判定能夠提供最佳用戶體驗的節點并進行合理的分流，進而，提升系統運行的穩定性和可靠性。

技術領域

本發明涉及互聯網技術領域，具體涉及一種系統的請求處理方法、裝置、電子設備及存儲介質。

背景技術

大型的系統通常會做異地雙活配置，即：兩個不同的地方，搭建兩套子系統，可保證系統的正常運行。異地雙活相當于將系統一分為二，如果流量分配不均，則會導致一個子系統的業務量增加，壓力增大，可能會影響到業務的正常處理。目前，采用的分配方式通常為根據請求位置到兩套子系統的距離或者按請求的區域劃分，直接分配到就進的子系統進行業務處理。存在以下問題：用戶請求來源具有不確定性，例如在某地做業務推廣，有可能出現用戶和請求突增的情況，或者是其他導致系統訪問量和用戶數激增的情況，此時，可能導致某一個子系統請求量過高、處理時延變長、業務積壓。而另一個異地的子系統請求量少，造成資源浪費。

發明內容

基于現有技術中存在的問題，本發明實施例中提出一種系統的請求處理方法、裝置、電子設備及存儲介質。

第一方面，本發明實施例中提供了一種系統的請求處理方法，所述系統包括多個處理節點，所述系統的請求處理包括：

根據用戶發送的請求，預測當前處理節點處理所述請求后達到的吞吐量范圍；

根據所述吞吐量范圍判斷當前處理節點處理所述請求時的用戶的體驗級別；

根據所述體驗級別確定所述當前處理節點處理所述請求時的可信區間，其中，所述可信區間與當前處理節點處理所述請求時的吞吐量在所述吞吐量范圍內的概率相關；

根據確定的每一個處理節點處理所述請求時的可信區間，從所述多個處理節點中選擇處理所述請求的處理節點。

進一步地，所述根據所述體驗級別確定所述當前處理節點處理所述請求時的可信區間，包括：

根據所述當前處理節點處理所述請求時的吞吐量在所述吞吐量范圍內的概率，得到抽樣誤差；

根據所述抽樣誤差、預設常量和所述當前處理節點處理所述請求時的吞吐量在所述吞吐量范圍內的概率，得到所述當前處理節點處理所述請求時的可信區間。

進一步地，所述多個處理節點包括第一處理節點和第二處理節點，所述第一處理節點對應的體驗級別小于所述第二處理節點對應的體驗級別，所述根據確定的每一個處理節點處理所述請求時的可信區間，從所述多個處理節點中選擇處理所述請求的處理節點，包括：

如果所述第一處理節點處理所述請求時的可信區間的寬度小于或等于所述第二處理節點處理所述請求時的可信區間的寬度，則選擇所述第二處理節點處理所述請求；

如果所述第一處理節點處理所述請求時的可信區間的寬度大于所述第二處理節點處理所述請求時的可信區間的寬度，且所述第二處理節點處理所述請求時的可信區間的寬度大于或等于預設的基準可信區間的寬度，則選擇所述第二處理節點處理所述請求；

如果所述第一處理節點處理所述請求時的可信區間的寬度大于所述第二處理節點處理所述請求時的可信區間的寬度，且所述第一處理節點處理所述請求時的可信區間的寬度大于或等于所述預設的基準可信區間的寬度、所述第二處理節點處理所述請求時的可信區間的寬度小于所述預設的基準可信區間的寬度，則選擇所述第一處理節點處理所述請求；