[發明專利]負載均衡方法及裝置

在審

• 申請號: 202010883903.4
• 申請日: 2020-08-28
• 公開（公告）號: CN112035254A
• 公開（公告）日: 2020-12-04
• 發明（設計）人: 曹福祥;王玉龍
• 申請（專利權）人: 北京達佳互聯信息技術有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京銀龍知識產權代理有限公司 11243
• 代理人: 許靜;黃燦

本公開關于一種負載均衡方法及裝置，該方法包括：接收服務調用請求；根據微服務的服務實例集中每個實例在目標時間窗口內的請求信息，確定每個實例的過載情況，并依據所述過載情況在所述服務實例集中確定目標實例，其中，所述請求信息包括接收的服務請求數和成功處理的服務請求數；向所述目標實例發送所述服務調用請求。這樣，通過服務實例集中各實例在目標時間窗口內接收的服務請求數和成功處理的服務請求數，可確定各實例當前的過載情況，從而可據此選擇服務實例集中尚未過載的目標實例作為待發送服務請求的對象，進而提高負載均衡效果。

技術領域

本公開涉及計算機技術領域，尤其涉及一種負載均衡方法及裝置。

背景技術

在微服務架構中，一個微服務由多個實例(也稱進程)組成，當對一個微服務發起遠程調用(Remote Procedure Call，RPC)，或稱發送請求時，可以通過某種機制選取其中一個實例，再把請求發給它，這個選取機制通常稱為負載均衡。一般來說，負載均衡有兩方面的作用：一是讓每個實例收到的請求流量相對均衡，保證整體性能；二是在有個別實例故障時避免請求都失敗，保證整體可用。

相關技術中，通過記錄每個實例上當前正在處理中的請求數，也稱并發數，在選取實例時，優先選取當前并發數最小的實例，以此方式來實現負載均衡。然而，這種方式并沒有考慮每個實例的實際處理能力，比如說，當前并發數低的實例可能實際處理能力也比較低，因此有可能已經過載了，而并發數高的實例有可能還有比較強的額外服務能力。

可見，現有負載均衡方式的均衡效果較差。

發明內容

本公開提供一種負載均衡方法及裝置，以至少解決相關技術中均衡效果較差的問題。本公開的技術方案如下：

根據本公開實施例的第一方面，提供一種負載均衡方法，包括：

接收服務調用請求；

根據微服務的服務實例集中每個實例在目標時間窗口內的請求信息，確定每個實例的過載情況，并依據所述過載情況在所述服務實例集中確定目標實例，其中，所述請求信息包括接收的服務請求數和成功處理的服務請求數；

向所述目標實例發送所述服務調用請求。

根據本公開實施例的第二方面，提供一種負載均衡裝置，包括：

接收模塊，被配置為執行在接收服務調用請求；

確定模塊，被配置為執行根據微服務的服務實例集中每個實例在目標時間窗口內的請求信息，確定每個實例的過載情況，并依據所述過載情況在所述服務實例集中確定目標實例，其中，所述請求信息包括接收的服務請求數和成功處理的服務請求數；

發送模塊，被配置為執行向所述目標實例發送所述服務調用請求。

根據本公開實施例的第三方面，提供一種負載均衡裝置，包括：

處理器；

用于存儲所述處理器可執行指令的存儲器；

其中，所述處理器被配置為執行所述指令，以實現上述第一方面所述的負載均衡方法。

根據本公開實施例的第四方面，提供一種計算機程序產品，包括可執行指令，當所述可執行指令在計算機上運行時，使得計算機能夠執行上述第一方面所述的負載均衡方法。

本公開的實施例提供的技術方案至少帶來以下有益效果：