[發明專利]一種服務網關通過分層限流保障高可用的方案及系統

在審

• 申請號: 202210271319.2
• 申請日: 2022-03-18
• 公開（公告）號: CN114760250A
• 公開（公告）日: 2022-07-15
• 發明（設計）人: 劉德建;葉偉;李佳
• 申請（專利權）人: 福建天晴數碼有限公司
• 主分類號: H04L47/10
• 分類號: H04L47/10;H04L47/24;H04L67/1042;H04L67/60
• 代理公司: 福州旭辰知識產權代理事務所(普通合伙) 35233
• 代理人: 盧麗花

本發明提供了一種服務網關通過分層限流保障高可用的方案，所述方案包括以下步驟：步驟S1、系統制定請求數的統計維度，分別是單個服務的請求數，分組服務的請求數和整個網關的總請求數；步驟S2、系統統計整個網關的總請求數據，對整個網關的總請求數進行限流判斷；步驟S3、對服務進行服務器分組，在同一臺服務器上的服務標記為同一組，請求統計分組服務的請求數，對分組服務的請求數進行限流判斷；步驟S4、對單個服務的請求數進行統計，判斷是否對單個服務進行限流保護；本發明能夠在網關層對微服務集群進行統一管理，實現三個統計維度的分層限流，對整個系統提供安全保障。

技術領域

本發明涉及計算機技術領域，特別是一種服務網關通過分層限流保障高可用的方案及系統。

背景技術

隨著業務的發展，流量的增長，服務端的高可用成為一個不小的挑戰。如果在服務器有限的能力下，提供最大的保障呢，限流是一個很好的手段，超過服務自身承載能力的流量，與其讓他不斷堆積從而造成請求排隊資源競爭，不如直接快速返回失敗，告知客戶端流量超載，這樣能夠對服務起到一個保障，不至于被突發流量打垮。在微服務架構下，多服務的調用錯綜復雜，服務網關的出現解決了這一痛點，所以如何在網關上通過逐層的維度對服務進行限流成為系統需要解決的問題。

發明內容

為克服上述問題，本發明的目的是提供一種能夠實現在網關層對微服務集群進行統一管理，實現三個統計維度的分層限流，對整個系統提供安全保障的方案。

本發明采用以下方案實現：一種服務網關通過分層限流保障高可用的方案，所述方案包括以下步驟：

步驟S1、系統制定請求數的統計維度，分別是單個服務的請求數，分組服務的請求數和整個網關的總請求數；

步驟S2、系統統計整個網關的總請求數據，對整個網關的總請求數進行限流判斷；步驟S3、對服務進行服務器分組，在同一臺服務器上的服務標記為同一組，請求統計分組服務的請求數，對分組服務的請求數進行限流判斷；

步驟S4、對單個服務的請求數進行統計，判斷是否對單個服務進行限流保護，從而能夠在網關層對微服務集群進行統一管理，實現三個統計維度的分層限流，對整個系統提供安全保障。

進一步的，所述步驟S1進一步具體為：網關是集中了所有微服務的入口，通過網關來對請求進行轉發；系統設定了網關幾個請求數的統計維度，分別是單個服務的請求數，分組服務的請求數，還有整個網關的總請求數。

進一步的，所述步驟S2進一步具體為：網關收到請求后，總請求數累計+1，設定網關的總請求數據閾值范圍為8000-8500，判斷總請求數是否超過設定的總請求數閾值范圍，是，則進行限流，返回客戶端請求失敗，否，則繼續服務。

進一步的，所述步驟S3進一步具體為：網關集中了不同服務的請求轉發，網關把相同的服務器上的服務打上相同的標簽，標記為一組；網關收到訂單數據請求后，轉發到對應的訂單服務上后，給服務所在分組的請求數累計+1，設定分組服務的請求數閾值為5000-5500，判斷分組請求數是否超過分組閾值范圍，是，則進行限流，返回客戶端請求失敗；否，則繼續進行服務。

進一步的，所述步驟S4進一步具體為：網關收到請求后，轉發到對應服務上后，給服務的請求數累計+1，設定單個服務的請求數閾值范圍為3000-3500，判斷請求數是否超過服務請求數的閾值范圍，是，則進行限流，返回客戶端請求失敗，否，則繼續進行服務。