[發明專利]系統響應時間波動抑制方法和系統

有效

• 申請號: 201810330686.9
• 申請日: 2018-04-13
• 公開（公告）號: CN108600354B
• 公開（公告）日: 2020-01-07
• 發明（設計）人: 張磊;張之宇;呂俊逸;郭柱;王真;謝麗麗
• 申請（專利權）人: 中國民航信息網絡股份有限公司
• 主分類號: H04L29/08
• 分類號: H04L29/08;G06F9/50;G06F9/54
• 代理公司: 11341 北京瑞思知識產權代理事務所(普通合伙)
• 代理人: 黨建華

本發明提供了一種系統響應時間波動抑制方法和系統。其中，該方法包括：用于執行相同功能的多個應用程序分別根據應用程序響應服務請求的響應時間調整其工作狀態，并將工作狀態上報給負載均衡器；負載均衡器接收用戶的服務請求，并根據多個應用程序的工作狀態，將服務請求分發給多個應用程序。通過本發明，多個相同功能的應用程序根據其工作狀態輪流處理服務請求，解決了因應用程序后臺處理任務所導致的系統響應時間變長的問題，提高了系統響應時間。

技術領域

本發明涉及負載均衡領域，具體而言，涉及一種系統響應時間波動抑制方法和系統。

背景技術

術語解釋

ART：Application Response Time，應用程序響應時間，是應用程序性能的重要衡量指標之一，從用戶提交請求到用戶收到系統回應的時間間隔。

最大響應時間：應用程序響應時間的最大值。

Java：是一種編程語言。

JVM：java虛擬機。Java虛擬機是一種抽象化的計算機，通過在實際的計算機上仿真模擬各種計算機功能來實現的。Java虛擬機有自己完善的硬體架構，如處理器、堆棧、寄存器等，還具有相應的指令系統。JVM屏蔽了與具體操作系統平臺相關的信息，使得Java程序只需生成在Java虛擬機上運行的目標代碼(字節碼)，就可以在多種平臺上不加修改地運行。

GC：garbage collection，垃圾回收。在Java中，當沒有對象引用指向原先分配給某個對象的內存時，該內存便成為垃圾。JVM的一個系統級線程會自動釋放該內存塊。JVM自動釋放無人引用的內存塊的過程叫做垃圾回收。

Garbage Collectors：垃圾回收器，JVM中，負責垃圾回收的組件。

對于java應用程序，由于gc的存在，應用程序會遭遇響應時間的“波動”。在GC的過程中，會出現stop-the-world，它在目前所實現的GC算法中都將出現，它出現的時候，JVM中運行的應用程序將停止執行，也就是說應用中的所有線程將停止響應，直到stop-the-world完成工作。換言之，在GC期間，應用程序響應時間會變長。

Jvm的實現中，提供了多種的垃圾回收器，這些回收器對于系統響應時間的影響有所區別。常見的垃圾回收器包括：Serial GC,Parallel GC，Concurrent Mark-Sweep(CMSGC)，G1GC。回收類型分為minor GC和major GC(也叫做Full GC)。Serial GC回收器的特點是單線程回收)，minor GC和major GC都需要暫停應用(即stop-the-world)。在parallelGC中，minor和full GC都是并行的，可使用多核并行回收，可指定使用多少線程，能很好的改善響應時間。CMS GC旨在減少應用的響應時間，主要應對低響應延時的應用場景，但是，仍然存在stop-the-world；一旦發生，應用將停止響應直到它工作完成。G1GC作為CMS GC的一種替代，出現在Java 6update 20或者更高版本中才具有)，它可指定GC導致的應用停止時間，有不同的內存分布，提高應用實時性。

通過對垃圾回收器的選擇和優化，可以降低響應時間；但是，GC發生時，仍然可能導致響應時間變長。

對于非java應用程序，沒有GC導致的最大響應時間變長；但是，當應用程序進行一些后臺的非應用處理工作時(例如，從數據庫加載大量數據到緩存)，也可能導致最大響應時間變長。

發明內容

本發明提供了一種系統響應時間波動抑制方法和系統，以至少解決相關技術中因應用程序后臺處理任務所導致的系統響應時間變長的問題。

第一方面，本發明實施例提供了一種系統響應時間波動抑制系統，包括：負載均衡器和服務器，其中，所述服務器上部署有用于執行相同功能的多個應用程序；