[發明專利]數據服務過載檢測和緩解

在審

• 申請號: 201980038811.1
• 申請日: 2019-06-17
• 公開（公告）號: CN112262559A
• 公開（公告）日: 2021-01-22
• 發明（設計）人: 祁梅;曾晉江;里克·基爾戈;王新凱;弗雷德·馬梅里
• 申請（專利權）人: 家庭票房公司
• 主分類號: H04L29/08
• 分類號: H04L29/08;H04L12/801;H04L12/825
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 康建峰;楊林森

所描述的技術旨在呈現可以由客戶端請求的激增導致的服務器過載狀況。在服務器處接收到針對數據的傳入客戶端請求后，評估客戶端請求緩沖器的請求緩沖器狀況(例如，計數器)以確定客戶端請求是否對應于關于服務器的請求處理能力的預期過載狀態，例如，客戶端請求緩沖器是否為滿。如果是，則向客戶端返回過載響應(例如重試響應)，以指示使得客戶端在時間延遲之后重試相應的客戶端請求。如果不處于預期過載狀態，則例如通過將與傳入客戶端請求相關聯的請求信息條目添加至客戶端請求緩沖器并更新請求緩沖器狀況，來進一步處理該請求，以例如提供包含所請求的數據的常規響應。

相關申請的交叉引用

本申請要求2018年6月15日提交的、標題為“DATA SERVICE OVERLOAD DETECTIONAND MITIGATION”的美國非臨時專利申請第16/009,729號的優先權，該美國非臨時專利申請的全部內容通過引用并入本文。

背景技術

許多當代的計算裝置程序具有作為在線客戶端向外部數據服務做出請求的在線部件。為了擴大規模以處理大量這樣的客戶端請求，典型的數據服務解決方案是在負載平衡器處接收客戶端請求，負載平衡器在通常稱為服務器實例的許多可能的數據服務服務器之間分發客戶端請求。然后，服務器處理并且發送對客戶端請求的響應。

數據服務服務器執行的操作之一是響應來自負載平衡器的周期性心跳檢測請求，例如，通過負載平衡器和服務器理解的特定URL發送的是用于心跳通信的。當沒有檢測到來自數據服務服務器的心跳時，該數據服務服務器被卸下并被重啟。

當有時在不可預測的時刻出現大的、突然的客戶端請求負載時，數據服務遇到問題。通常，這樣的需求激增使數據服務服務器過載，因為服務器試圖跟上許多對數據的客戶端請求。當過載時，即使服務通常是運轉的，數據服務服務器也經常不能響應心跳檢測，從而導致其重啟。卸下服務器進行重啟操作會進一步地使其他過載的服務器承受壓力。

發明內容

提供本發明內容是為了以簡化的形式介紹一系列代表性的概念，這些概念在下面的具體實施方式中被進一步描述。本發明內容不旨在確定所要求保護的主題的關鍵特征或必要特征，也不旨在以限制所要求保護的主題的范圍的任何方式來使用。

簡言之，本文描述的技術的各方面旨在避免服務器過載狀況。在服務器處接收到對數據的傳入客戶端請求后，各方面包括：評估客戶端請求緩沖器的請求緩沖器狀況，以確定客戶端請求是否對應于關于服務器的請求處理能力的預期過載狀態。如果評估請求緩沖器狀況確定傳入客戶端請求對應于預期過載狀態，則本文描述的是向客戶端返回響應，該響應指示客戶端要在時間延遲之后重試相應的客戶端請求。如果評估請求緩沖器狀況確定傳入客戶端請求不對應于預期過載狀態，則各方面包括將與傳入客戶端請求相關聯的請求信息條目添加至客戶端請求緩沖器，并且更新請求緩沖器狀況。

根據結合附圖所做的以下詳細描述，其他的優點可以變得明顯。

附圖說明

本文中描述的技術通過示例的方式示出并且不通過附圖進行限制，在附圖中相似的附圖標記指示相似的元件，并且在附圖中：

圖1是表示根據一個或更多個示例實現方式的包括經由具有過載檢測能力的服務器處理針對數據的客戶端請求的示例部件的框圖。

圖2是表示根據一個或更多個示例實現方式的其中當前未預期到過載狀態的具有過載檢測能力的客戶端和服務器的示例部件的框圖。

圖3是表示根據一個或更多個示例實現方式的其中檢測到預期過載狀態的具有過載檢測能力的客戶端和服務器的示例部件的框圖。

圖4是表示根據一個或更多個示例實現方式的可以由服務器執行的關于檢測是否存在預期過載狀態的示例邏輯/操作以及后續操作的流程圖

圖5是表示根據一個或更多個示例實現方式的可以由服務器執行的關于在跟蹤可能的過載相關狀況的同時處理對數據的客戶端請求的示例邏輯/操作的流程圖。