[發明專利]具有成本效益的高可用性的多單租戶服務

在審

• 申請號: 201980065764.X
• 申請日: 2019-11-22
• 公開（公告）號: CN112805682A
• 公開（公告）日: 2021-05-14
• 發明（設計）人: 迪安·希爾德布蘭德;格里戈里·阿瓦吉揚
• 申請（專利權）人: 谷歌有限責任公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F11/20
• 代理公司: 中原信達知識產權代理有限責任公司 11219
• 代理人: 李寶泉;任慶威

VM的輔池用于運行輔服務或輔作業，所述輔服務或輔作業可能在相應的主VM發生故障時被驅逐。在檢測到主資源發生故障時，將輔服務或輔作業從輔池資源中驅逐出，并且可以將輔池資源自動分配給發生故障的主資源的作業。在這方面，輔作業可以被認為是可搶占的作業，并且包括優先級比主資源上的服務或作業低的服務或作業。通過使用輔池中的計算資源來運行輔作業或可搶占的作業，這個技術利用了否則是空閑的資源。這有利地避免不得不為輔作業分配額外的和另外的計算資源，從而更有效地利用網絡資源，并減少成本。

相關申請的交叉引用

本申請是在2019年3月8日提交的美國專利申請No.16/297,054的繼續，其公開內容通過引用合并于此。

背景技術

多單租戶(MST)服務在隔離環境中(諸如在分開的虛擬機(VM)中)運行個體服務實例。云SQL是此類服務的示例。因為個體服務實例在單個VM上運行，所以VM的故障將導致該服務實例不可用。故障可能是有計劃的或者計劃外的，但是都需要拆掉VM。計劃內的故障示例是VM更新，諸如對內核的重要安全補丁。服務的控制平面可能能夠檢測VM故障，并將故障轉移到新創建的VM。對于計劃內的故障轉移，可以通過在拆掉舊WM之前重新創建新的WM來減少WM的不可用時間。但是，這兩種方法更傾向于引起VM缺貨的情況，其中由于目標區域中所請求類型的機器容量不足，用戶無法創建VM。這是不可接受的，因為它會使客戶的現有服務實例在不確定的時間段內不可用。

發明內容

一些MST服務，諸如云SQL，提供高可用性(HA)解決方案，其中熱備份輔VM始終保持在主要VM旁邊，以避免在所述主要VM出現故障的情況下缺貨，并且能夠在主要VM發生故障或需要更新的情況下進行快速故障轉移。通常將主要VM和輔VM放置在負載平衡器端點之后，使得實例的IP地址在整個故障轉移期間保持穩定。對于需要這種主動-被動模型的服務，輔VM僅在故障轉移期間使用，否則處于空閑狀態。這是很昂貴的，因為它會使與單個服務實例相關聯的計算資源翻倍，并且可能使服務成本增加將近一倍。對于這種增加的成本，輔VM通常每1-2年大約僅用于計劃外故障一次，并且每季度用于計劃內更新一次。

本公開提供了一種解決方案，該解決方案減少在HA解決方案中維護備用VM的成本而又不犧牲可用性特性，諸如正常運行時間、故障轉移時間等。VM的輔池，或更一般地計算資源，用于運行輔服務或作業。在檢測到給定VM發生故障時，從輔池資源中驅逐輔服務或作業，使得可以將這些輔池資源自動分配給發生故障的VM上的主作業或服務。在這方面，輔助工作可以被認為是可搶占的工作，并且包括比故障的服務或工作具有更低優先級的服務或工作。通過使用輔池中的計算資源來運行輔助或可搶占的作業，這個技術利用了否則是空閑的資源。這有利地避免必須為輔作業分配額外的和分開的計算資源。這導致網絡資源的更有效使用，并潛在地減輕在其它情況下不得不產生潛在未充分利用的網絡，其將導致高可用性(“HA”)成本的減少。

本公開的一個方面提供了一種用于管理用于在分布式系統中提供服務的池化計算資源的方法。該方法包括：由分布式系統的數據處理硬件確定被指定用于運行一個或多個主作業的計算資源的主池；由分布式系統的數據處理硬件確定被指定用于運行與一個或多個主作業不同的一個或多個輔作業的計算資源的輔池；在檢測到與使用來自輔池的計算資源運行的一個或多個主作業中給定的一個相關聯的故障情況時，搶占使用來自輔池的計算資源的一個或多個輔作業中的給定一個；以及將來自給定的輔作業的輔計算資源分配給與故障情況相關聯的給定的主作業。