[發(fā)明專利]請求處理方法、裝置、設(shè)備、存儲(chǔ)介質(zhì)及程序產(chǎn)品

有效

• 申請?zhí)枺?/td>: 202110098618.6
• 申請日: 2021-01-25
• 公開（公告）號: CN112764931B
• 公開（公告）日: 2023-07-28
• 發(fā)明（設(shè)計(jì)）人: 楊飛龍;黃耀東;張曉聰
• 申請（專利權(quán)）人: 北京字跳網(wǎng)絡(luò)技術(shù)有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/54
• 代理公司: 上海光柵知識產(chǎn)權(quán)代理有限公司 31340
• 代理人: 喬慧;馬雯雯

本公開實(shí)施例提供一種請求處理方法、裝置、設(shè)備、存儲(chǔ)介質(zhì)及程序產(chǎn)品，該方法包括：基于向服務(wù)進(jìn)程發(fā)送請求的發(fā)送速率統(tǒng)計(jì)所述服務(wù)進(jìn)程的狀態(tài)集合，其中，每一發(fā)送速率對應(yīng)的狀態(tài)集合包括所述服務(wù)進(jìn)程在所述發(fā)送速率下的處理狀態(tài)信息，各狀態(tài)集合按照發(fā)送速率順序排列；根據(jù)相鄰狀態(tài)集合中的處理狀態(tài)信息，確定是否對發(fā)送速率開啟限流；在開啟限流后，根據(jù)所述服務(wù)進(jìn)程的處理狀態(tài)信息，確定所述服務(wù)進(jìn)程對應(yīng)的限流閾值。本公開實(shí)施例能夠利用服務(wù)進(jìn)程的實(shí)際處理狀態(tài)以及對應(yīng)的發(fā)送速率，預(yù)估服務(wù)進(jìn)程的容量上限，有效提升服務(wù)進(jìn)程的性能，保證服務(wù)進(jìn)程的可用性。

技術(shù)領(lǐng)域

本公開實(shí)施例涉及計(jì)算機(jī)技術(shù)領(lǐng)域，尤其涉及一種請求處理方法、裝置、設(shè)備、存儲(chǔ)介質(zhì)及程序產(chǎn)品。

背景技術(shù)

服務(wù)進(jìn)程可以用于實(shí)現(xiàn)數(shù)據(jù)的查詢、更新等操作，在復(fù)雜的線上處理場景中得到了廣泛的應(yīng)用。

在將請求發(fā)送給服務(wù)進(jìn)程之后，服務(wù)進(jìn)程可以對請求進(jìn)行處理并返回響應(yīng)數(shù)據(jù)。由于線上數(shù)據(jù)并發(fā)量較大，過多的數(shù)據(jù)請求可能會(huì)導(dǎo)致服務(wù)進(jìn)程不穩(wěn)定甚至癱瘓。為了提高服務(wù)進(jìn)程的穩(wěn)定性，可以為服務(wù)進(jìn)程設(shè)計(jì)一個(gè)預(yù)設(shè)的限流閾值，按照該限流閾值向服務(wù)進(jìn)程發(fā)送請求，在待處理的請求超過限流閾值時(shí)，可以舍棄一部分請求，實(shí)現(xiàn)對服務(wù)實(shí)例的保護(hù)。

但是，由于不同的服務(wù)進(jìn)程有著不同的性能瓶頸，因此，不同服務(wù)進(jìn)程的容量上限也不同，現(xiàn)有技術(shù)無法自適應(yīng)地實(shí)現(xiàn)限流功能，導(dǎo)致服務(wù)進(jìn)程的性能較差。

發(fā)明內(nèi)容

本公開實(shí)施例提供一種請求處理方法、裝置、設(shè)備、存儲(chǔ)介質(zhì)及程序產(chǎn)品，以提高服務(wù)進(jìn)程的性能。

第一方面，本公開實(shí)施例提供一種請求處理方法，包括：

基于向服務(wù)進(jìn)程發(fā)送請求的發(fā)送速率統(tǒng)計(jì)所述服務(wù)進(jìn)程的狀態(tài)集合，其中，每一發(fā)送速率對應(yīng)的狀態(tài)集合包括所述服務(wù)進(jìn)程在所述發(fā)送速率下的處理狀態(tài)信息，各狀態(tài)集合按照發(fā)送速率順序排列；

根據(jù)相鄰狀態(tài)集合中的處理狀態(tài)信息，確定是否對發(fā)送速率開啟限流；

在開啟限流后，根據(jù)所述服務(wù)進(jìn)程的處理狀態(tài)信息，確定所述服務(wù)進(jìn)程對應(yīng)的限流閾值。

第二方面，本公開實(shí)施例提供一種請求處理裝置，所述裝置包括：

統(tǒng)計(jì)模塊，用于基于向服務(wù)進(jìn)程發(fā)送請求的發(fā)送速率統(tǒng)計(jì)所述服務(wù)進(jìn)程的狀態(tài)集合，其中，每一發(fā)送速率對應(yīng)的狀態(tài)集合包括所述服務(wù)進(jìn)程在所述發(fā)送速率下的處理狀態(tài)信息，各狀態(tài)集合按照發(fā)送速率順序排列；

確定模塊，用于根據(jù)相鄰狀態(tài)集合中的處理狀態(tài)信息，確定是否對發(fā)送速率開啟限流；

限流模塊，用于在開啟限流后，根據(jù)所述服務(wù)進(jìn)程的處理狀態(tài)信息，確定所述服務(wù)進(jìn)程對應(yīng)的限流閾值。

第三方面，本公開實(shí)施例提供一種電子設(shè)備，包括：存儲(chǔ)器和至少一個(gè)處理器；

所述存儲(chǔ)器存儲(chǔ)計(jì)算機(jī)執(zhí)行指令；

所述至少一個(gè)處理器執(zhí)行所述存儲(chǔ)器存儲(chǔ)的計(jì)算機(jī)執(zhí)行指令，使得所述至少一個(gè)處理器執(zhí)行如上第一方面所述的請求處理方法。

第四方面，本公開實(shí)施例提供一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)中存儲(chǔ)有計(jì)算機(jī)執(zhí)行指令，當(dāng)處理器執(zhí)行所述計(jì)算機(jī)執(zhí)行指令時(shí)，實(shí)現(xiàn)如上第一方面所述的請求處理方法。

第五方面，本公開實(shí)施例提供一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，該計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如上第一方面所述的請求處理方法。