[發明專利]服務調度方法、裝置、設備以及存儲介質

在審

• 申請號: 202111571290.1
• 申請日: 2021-12-21
• 公開（公告）號: CN114265692A
• 公開（公告）日: 2022-04-01
• 發明（設計）人: 李旺平;師小凱
• 申請（專利權）人: 北京精英路通科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/54
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 王達佐;馬曉亞

本公開提供了一種服務調度方法、裝置、設備以及存儲介質，涉及云服務技術領域，可應用于云平臺。該方法包括：接收至少一個客戶端發送的并發請求；為并發請求中的每個請求從預先生成的多條流水線中確定用于處理該請求的目標流水線；響應于確定目標流水線對請求的預估處理時間超過該請求的預設超時時間，獲取該請求在目標流水線中的預估排隊時間；將預估排隊時間發送給發送該請求的客戶端，以使客戶端根據預估排隊時間調整請求發送策略。本公開提供的方法充分利用了服務器資源以對前端并發請求進行處理，從而提升了服務器對請求的處理效率。

技術領域

本公開涉及計算機技術領域，具體涉及云存儲技術領域，尤其涉及服務調度方法、裝置、設備以及存儲介質。

背景技術

隨著科技的發展，互聯網的通信架構層出不窮，其中C/S(Client-Server，客戶端-服務器)架構最為常見，即“客戶端/服務器”模式。這種結構是將需要處理的業務合理地分配到客戶端和服務器端，這樣可以大大降低通信成本，然而對于單服務器的服務，當客戶端不斷增加的時候，服務器端就需要考慮多并發的問題。

發明內容

本公開提供了一種服務調度方法、裝置、設備以及存儲介質。

根據本公開的第一方面，提供了一種服務調度方法，包括：接收至少一個客戶端發送的并發請求；為并發請求中的每個請求從預先生成的多條流水線中確定用于處理該請求的目標流水線；響應于確定目標流水線對請求的預估處理時間超過該請求的預設超時時間，獲取該請求在目標流水線中的預估排隊時間；將預估排隊時間發送給發送該請求的客戶端，以使客戶端根據預估排隊時間調整請求發送策略。

根據本公開的第二方面，提供了一種服務調度裝置，包括：接收模塊，被配置成接收至少一個客戶端發送的并發請求；確定模塊，被配置成為并發請求中的每個請求從預先生成的多條流水線中確定用于處理該請求的目標流水線；獲取模塊，被配置成響應于確定目標流水線對請求的預估處理時間超過該請求的預設超時時間，獲取該請求在目標流水線中的預估排隊時間；發送模塊，被配置成將預估排隊時間發送給發送該請求的客戶端，以使客戶端根據預估排隊時間調整請求發送策略。

根據本公開的第三方面，提供了一種電子設備，包括：至少一個處理器；以及與至少一個處理器通信連接的存儲器；其中，存儲器存儲有可被至少一個處理器執行的指令，指令被至少一個處理器執行，以使至少一個處理器能夠執行如第一方面中任一實現方式描述的方法。

根據本公開的第四方面，提供了一種存儲有計算機指令的非瞬時計算機可讀存儲介質，計算機指令用于使計算機執行如第一方面中任一實現方式描述的方法。

根據本公開的第五方面，提供了一種計算機程序產品，包括計算機程序，計算機程序在被處理器執行時實現如第一方面中任一實現方式描述的方法。

應當理解，本部分所描述的內容并非旨在標識本公開的實施例的關鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。

附圖說明

附圖用于更好地理解本方案，不構成對本公開的限定。其中：

圖1是本公開可以應用于其中的示例性系統架構圖；

圖2是根據本公開的服務調度方法的一個實施例的流程圖；

圖3是根據本公開的服務調度方法的另一個實施例的流程圖；

圖4為不做處理時的并發請求的示意圖；

圖5為服務器并發處理請求的示意圖；

圖6為服務器對并發請求處理后的示意圖；

圖7是根據本公開的服務調度方法的一個應用場景的示意圖；

圖8是根據本公開的服務調度裝置的一個實施例的結構示意圖；