[發明專利]令牌的管理方法和裝置、存儲介質、電子裝置

在審

• 申請號: 202010079130.4
• 申請日: 2020-02-03
• 公開（公告）號: CN111314238A
• 公開（公告）日: 2020-06-19
• 發明（設計）人: 孫紅亮
• 申請（專利權）人: 網銀在線（北京）科技有限公司
• 主分類號: H04L12/819
• 分類號: H04L12/819
• 代理公司: 北京華夏泰和知識產權代理有限公司 11662
• 代理人: 韓來兵;劉蔓莉

本申請公開了一種令牌的管理方法和裝置、存儲介質、電子裝置。其中，該方法包括：在客戶端向業務服務器發送業務請求時，在令牌桶中為業務請求申請令牌，業務請求用于在申請到令牌的情況下被發送給業務服務器，以請求業務服務器提供業務服務，令牌桶用于通過提供的令牌數量來限定業務服務器處理請求的并發量；記錄業務令牌的申請時間，申請時間為從令牌桶中為業務請求申請到業務令牌的時間；在根據申請時間確定業務令牌過期的情況下，歸還業務令牌至令牌桶。本申請解決了相關技術中令牌桶中的令牌容易出現異常的技術問題。

技術領域

本申請涉及互聯網領域，具體而言，涉及一種令牌的管理方法和裝置、存儲介質、電子裝置。

背景技術

限流通常是指服務端的限流，為了避免瞬間的高并發調用導致后臺提供服務的系統癱瘓，需要對接收調用請求的速度做控制，如每秒只能接收100次調用請求，實際每秒的調用請求是110次，則會有10次請求直接返回特定限流錯誤碼，不予處理，通過錯誤碼告訴調用發起方系統繁忙。因為實際處理調用請求的一般是由多個應用實例組成的一個集群，所以需要對整個集群能夠處理的請求數做限流，這就是全局限流，只針對單個應用實例的限流稱為單機限流。全局限流的典型場景就是大促期間(如雙11、購物節等大促)用戶通過商城App購物支付，這個場景下商城App就是客戶端，用戶的購物支付都需要發送請求給商城的服務端，服務端處理完請求后將結果返回給商城App，商城App再通過App的頁面跳轉等告知用戶請求結果。因為活躍用戶基數大，上千萬用戶可能會執行同一個操作(如將商品添加到購物車)，提供將商品添加到購物車功能的服務端就必須對此做限流。

服務端可用的限流方案有三種，計數器算法、漏桶算法和令牌桶算法，其中令牌桶算法是最優的，既能保證服務端能夠以一個相對固定的速率處理調用請求，也能應對一定范圍內的瞬間高并發請求。這三種服務端限流算法都不適用于客戶端限流，因為兩者的場景完全不同，服務端限流是在服務端接收調用請求時限流，客戶端限流是在客戶端發起調用請求時限流。客戶端限流可采用類似于信號量機制的改進的令牌桶算法。但是這些方案存在令牌桶中的令牌容易出現異常的問題。

針對上述的問題，目前尚未提出有效的解決方案。

發明內容

本申請實施例提供了一種令牌的管理方法和裝置、存儲介質、電子裝置，以至少解決相關技術中令牌桶中的令牌容易出現異常的技術問題。

根據本申請實施例的一個方面，提供了一種令牌的管理方法，包括：在客戶端向業務服務器發送業務請求時，在令牌桶中為業務請求申請令牌，業務請求用于在申請到令牌的情況下被發送給業務服務器，以請求業務服務器提供業務服務，令牌桶用于通過提供的令牌數量來限定業務服務器處理請求的并發量；記錄業務令牌的申請時間，申請時間為從令牌桶中為業務請求申請到業務令牌的時間；在根據申請時間確定業務令牌過期的情況下，歸還業務令牌至令牌桶。

根據本申請實施例的另一方面，還提供了一種令牌的管理裝置，包括：申請單元，用于在客戶端向業務服務器發送業務請求時，在令牌桶中為業務請求申請令牌，其中，業務請求用于在申請到令牌的情況下被發送給業務服務器，以請求業務服務器提供業務服務，令牌桶用于通過提供的令牌數量來限定業務服務器處理請求的并發量；記錄單元，用于記錄業務令牌的申請時間，其中，申請時間為從令牌桶中為業務請求申請到業務令牌的時間；歸還單元，用于在根據申請時間確定業務令牌過期的情況下，歸還業務令牌至令牌桶。

根據本申請實施例的另一方面，還提供了一種存儲介質，該存儲介質包括存儲的程序，程序運行時執行上述的方法。

根據本申請實施例的另一方面，還提供了一種電子裝置，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，處理器通過計算機程序執行上述的方法。