[發明專利]一種應對突發流量的資源調度方法和系統

在審

• 申請號: 202210072697.8
• 申請日: 2022-01-21
• 公開（公告）號: CN114500401A
• 公開（公告）日: 2022-05-13
• 發明（設計）人: 馬克;高劍;陳冬嚴;李凡;謝恒
• 申請（專利權）人: 上海金融期貨信息技術有限公司
• 主分類號: H04L47/50
• 分類號: H04L47/50;H04L47/6275;H04L47/12;H04L47/2416;H04L47/2425;H04L67/1074
• 代理公司: 上海專利商標事務所有限公司 31100
• 代理人: 施浩

本發明公開了應對突發流量的資源調度方法和系統，能夠合理、高效的調度虛擬機資源，提高應對突發流量的效率。其技術方案為：任務編排采用具有優先級的多級隊列存儲方式，并通過任務監控單元將突發流量轉存入突發流量任務存儲隊列，采用DRF算法進行單獨資源調度，避免傳統的單一任務存儲隊列，在面對突發流量時產生的隊列擁堵，持續等待資源調度的現象。

技術領域

本發明涉及一種資源調度技術，具體涉及一種應對突發流量的虛擬機資源調度方法和系統。

背景技術

隨著業務應用的擴展與用戶群體的擴大，用戶任務請求可能在某個單位時間瞬時激增。傳統的單一任務隊列機制，在面對突發流量時，容易受虛擬機資源限制，導致后續任務請求持續擁堵，造成響應增長、請求拒絕等問題。同時，這種機制下虛擬機資源利用率起伏較大，即存在資源過載與資源空閑的變化，無法合理調度可用資源。

為了解決突發流量帶來的任務調度資源緊張現象，實踐中通常采用為突發流量業務請求分配額外虛擬機資源。這種方案仍然存在兩個弱點：第一，它沒有從任務編排角度出發，額外虛擬機資源確實可以減少突發流量處理時間，但是后續正常任務請求仍然無法在短時間內獲得資源調度機會，造成后續任務響應過長。第二，沒有考慮突發流量任務在資源調度中的公平性，容易造成資源浪費。

發明內容

以下給出一個或多個方面的簡要概述以提供對這些方面的基本理解。此概述不是所有構想到的方面的詳盡綜覽，并且既非旨在指認出所有方面的關鍵性或決定性要素亦非試圖界定任何或所有方面的范圍。其唯一的目的是要以簡化形式給出一個或多個方面的一些概念以為稍后給出的更加詳細的描述之序。

本發明的目的在于解決上述問題，提供了一種應對突發流量的資源調度方法和系統，能夠合理、高效的調度虛擬機資源，提高應對突發流量的效率。

本發明的技術方案為：本發明揭示了一種應對突發流量的資源調度系統，系統包括任務分配單元、任務監控單元、任務存儲隊列、突發流量任務存儲隊列、普通任務調度單元、突發流量任務調度單元、虛擬機監控單元，其中：

任務存儲隊列，是一個多層結構的隊列，通過不同的層級對任務進行編排，其中對不同的層級設置對應的優先級L₁～L_n，在存儲任務時以優先級L₁～L_n的高低依序在不同層級的隊列中搜索空位置；

突發流量任務存儲隊列，接收來自于任務存儲隊列轉移來的突發流量任務，并使用備用虛擬機進行資源調度；

任務分配單元，用于任務的搜索與分配；

任務監控單元，用于對任務存儲隊列單位時間內存儲任務數量是否超過突發流量任務存儲隊列中所設置的閾值進行監控，當超過閾值時表示存在突發流量，將任務存儲隊列L₂～L_n中的突發流量任務轉存至突發流量任務存儲隊列，交由突發流量任務調度單元進行處理；

普通任務調度單元，用于對任務存儲隊列中的普通任務進行調度；

突發流量任務調度單元，用于對突發流量任務存儲隊列中的突發流量任務進行調度；

虛擬機監控單元，用于監控虛擬機資源池中主備虛擬機資源的實時基礎數據。

根據本發明的應對突發流量的資源調度系統的一實施例，任務存儲隊列中還設置隊列變動的屬性：當L_i儲存位置任務獲取到虛擬機資源后，對應的任務存儲隊列中的位置將被清除；當L_i隊列中存在空位置時，表示當前虛擬機資源處于可用狀態，L_i+1隊列中如存在任務則向L_i隊列移動。

根據本發明的應對突發流量的資源調度系統的一實施例，任務存儲隊列中還設置單個隊列長度的屬性：表示當前資源最大可同時處理的任務數量。