[發(fā)明專利]并發(fā)請求處理方法、裝置、服務(wù)器及存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202110724140.3
• 申請日: 2021-06-28
• 公開（公告）號: CN113342498A
• 公開（公告）日: 2021-09-03
• 發(fā)明（設(shè)計）人: 李飛;魏星;羅強(qiáng)
• 申請（專利權(quán)）人: 平安信托有限責(zé)任公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50
• 代理公司: 深圳市沃德知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44347
• 代理人: 高杰;于志光

本發(fā)明涉及數(shù)據(jù)處理，揭露一種并發(fā)請求處理方法，包括：獲取業(yè)務(wù)類型、IP地址、請求路徑及服務(wù)類型對應(yīng)的限流條件，將并發(fā)請求中符合對應(yīng)限流條件的請求按照時間戳順序存儲至對應(yīng)限流條件對應(yīng)的隊列中，得到多個隊列；為每個隊列分配一個限流桶，限流桶用于以固定速率產(chǎn)生令牌；基于預(yù)設(shè)的隊列優(yōu)先級信息及各個隊列中請求的順序?yàn)椴l(fā)請求分配令牌，若并發(fā)請求中某一指定請求從每個限流桶中都獲得了令牌，則處理指定請求。本發(fā)明還提供一種并發(fā)請求處理裝置、服務(wù)器及存儲介質(zhì)。本發(fā)明實(shí)現(xiàn)了細(xì)粒度的限流、更合理的處理并發(fā)請求。

技術(shù)領(lǐng)域

本發(fā)明涉及數(shù)據(jù)處理領(lǐng)域，尤其涉及一種并發(fā)請求處理方法、裝置、服務(wù)器及存儲介質(zhì)。

背景技術(shù)

請求限流為限制同一時間或一定時間內(nèi)請求的數(shù)量，目的是通過對同一時間或一個時間窗口內(nèi)的大量請求進(jìn)行限速以保護(hù)系統(tǒng)。

現(xiàn)有的請求限流方案通常是針對整個系統(tǒng)的，當(dāng)請求量超過系統(tǒng)預(yù)設(shè)的限流值時，其它請求需等待或被丟棄，而沒有細(xì)粒度的限流方案，從而使得對請求的處理不夠合理，例如，若一批并發(fā)請求中邏輯復(fù)雜的請求數(shù)量多，在按照預(yù)設(shè)的限流值限流后，仍可能出現(xiàn)系統(tǒng)崩潰或運(yùn)行緩慢的情況。因此，亟需一種并發(fā)請求處理方法，以細(xì)粒度的進(jìn)行限流、合理處理并發(fā)請求。

發(fā)明內(nèi)容

鑒于以上內(nèi)容，有必要提供一種并發(fā)請求處理方法，旨在實(shí)現(xiàn)細(xì)粒度的限流，以合理處理并發(fā)請求。

本發(fā)明提供的并發(fā)請求處理方法，包括：

接收并發(fā)請求，獲取所述并發(fā)請求中每個請求對應(yīng)的業(yè)務(wù)類型、IP地址、請求路徑及服務(wù)類型；

分別獲取所述業(yè)務(wù)類型、IP地址、請求路徑及服務(wù)類型對應(yīng)的限流條件，將所述并發(fā)請求中符合對應(yīng)限流條件的請求按照時間戳順序存儲至對應(yīng)限流條件對應(yīng)的隊列中，得到多個隊列；

為每個隊列分配一個限流桶，所述限流桶用于以固定速率產(chǎn)生令牌；

獲取預(yù)先設(shè)置的隊列優(yōu)先級信息，基于所述隊列優(yōu)先級信息及各個隊列中請求的順序?yàn)樗霾l(fā)請求分配令牌，若所述并發(fā)請求中某一指定請求從每個限流桶中都獲得了令牌，則處理所述指定請求。

可選的，所述將所述并發(fā)請求中符合對應(yīng)限流條件的請求按照時間戳順序存儲至對應(yīng)限流條件對應(yīng)的隊列中，包括：

判斷所述并發(fā)請求中是否含有預(yù)設(shè)業(yè)務(wù)類型的請求，若有，獲取所述預(yù)設(shè)業(yè)務(wù)類型對應(yīng)的第一限流數(shù)量，按照時間戳順序?qū)⑺霾l(fā)請求中排序靠前的第一限流數(shù)量的預(yù)設(shè)業(yè)務(wù)類型的請求和其它業(yè)務(wù)類型的請求存儲至第一隊列；

根據(jù)IP地址判斷所述并發(fā)請求中是否含有異常請求，若有，將所述并發(fā)請求中不是異常請求的請求按照時間戳順序存儲至第二隊列；

根據(jù)請求路徑確定所述并發(fā)請求中每個請求的復(fù)雜度等級，基于所述復(fù)雜度等級將所述并發(fā)請求存儲至第三隊列；

獲取各個服務(wù)類型對應(yīng)的第二限流數(shù)量，按照時間戳順序?qū)⑺霾l(fā)請求中各個服務(wù)類型對應(yīng)的排序靠前的第二限流數(shù)量的請求存儲至第四隊列。

可選的，所述根據(jù)請求路徑確定所述并發(fā)請求中每個請求的復(fù)雜度等級，包括：

獲取第一時間段內(nèi)每個請求路徑對應(yīng)的多個歷史響應(yīng)時間，基于所述多個歷史響應(yīng)時間計算每個請求路徑對應(yīng)的平均響應(yīng)時間；

基于所述平均響應(yīng)時間及預(yù)設(shè)的響應(yīng)時間與復(fù)雜度等級的映射關(guān)系確定每個請求路徑對應(yīng)的復(fù)雜度等級。

可選的，所述基于所述復(fù)雜度等級將所述并發(fā)請求存儲至第三隊列，包括：

確定所述并發(fā)請求中各個復(fù)雜度等級的請求的數(shù)量；

根據(jù)所述數(shù)量及預(yù)先確定的各個復(fù)雜度等級對應(yīng)的權(quán)重計算各個復(fù)雜度等級對應(yīng)的第三限流數(shù)量；