[發明專利]一種基于群體智能的容器化應用負載調度方法

在審

• 申請號: 201710652118.6
• 申請日: 2017-08-02
• 公開（公告）號: CN107589992A
• 公開（公告）日: 2018-01-16
• 發明（設計）人: 馬修軍;吳迪;孫澤遠
• 申請（專利權）人: 北京大學（天津濱海）新一代信息技術研究院
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/54
• 代理公司: 北京辰權知識產權代理有限公司11619
• 代理人: 董李欣

技術領域

本發明屬于云計算與微服務架構領域，具體涉及一種基于群體智能的容器化應用負載調度方法，尤其是在無全局中央控制節點的分布式系統中，實現系統中各節點實時、高效和自治的調整各節點的負載情況，自底向上完成全局最優化的負載均衡。

背景技術

云計算是一種按使用量付費的模式，這種模式提供可用的、便捷的、按需的網絡訪問，進入可配置的計算資源共享池(資源包括網絡，服務器，存儲，應用軟件，服務)，這些資源能夠被快速提供，只需投入很少的管理工作，或與服務供應商進行很少的交互。

微服務的基本思想在于考慮圍繞著業務領域組件來創建應用，這些就應用可獨立地進行開發、管理和加速。在分散的組件中使用微服務云架構和平臺使部署、管理和服務功能交付變得更加簡單。在微服務架構中，只需要在特定的某種服務中增加所需功能，而不影響整體進程。微服務不需要像普通服務那樣成為一種獨立的功能或者獨立的資源。微服務作為一項在云中部署應用和服務的新技術已成為當下最新的熱門話題。企業和服務提供商正在尋找更好的方法將應用程序部署在云環境中，微服務被認為是未來的方向。通過將應用和服務分解成更小的、松散耦合的組件，它們可以更加容易升級和擴展。

容器技術虛擬化技術已經成為一種被大家廣泛認可的容器技術服務器資源共享方式，容器技術可以在按需構建容器技術操作系統實例的過程當中為系統管理員提供極大的靈活性。由于hypervisor虛擬化技術仍然存在一些性能和資源使用效率方面的問題，因此出現了一種稱為容器技術(Container)的新型虛擬化技術來幫助解決這些問題。

負載均衡是由多臺服務器以對稱的方式組成一個服務器集合，每臺服務器都具有等價的地位，都可以單獨對外提供服務而無須其他服務器的輔助。通過某種負載分擔技術，將外部發送來的請求均勻分配到對稱結構中的某一臺服務器上，而接收到請求的服務器獨立地回應客戶的請求。均衡負載能夠平均分配客戶請求到服務器列陣，籍此提供快速獲取重要數據，解決大量并發訪問服務問題。

傳統的分布式環境中負載均衡方法在運行時根據全局的統計信息決定請求的優化分布，這種自頂向下的方法已經被證明是NP難問題。我們基于群體智能的算法思想，提出一種自底向上的微服務的自適應分布方法，它通過各節點局部簡單行為的累積，完成復雜的負載均衡問題。此方法完全是無中心的，各節點可動態部署微服務，并動態的刪除不活躍的微服務，系統保證最小數目的微服務數量以支持容錯性，并支持微服務的動態部署，動態地將微服務分布到新增節點上，以實現系統動態負載均衡。

發明內容

本發明提供一種基于群體智能的容器化應用負載調度方法，每個節點環境維護多個智能體，各節點環境中的智能體構成一個群體社會，智能體通過各自局部的自主行為自適應微服務請求事件和群體環境狀態的變化，通過群體的智能行為來實現整個分布式系統中的微服務的自適應優化分布。

本發明基于群體智能，通過模擬低等動物群體的行為來進行微服務的重新分布。仿生學對低等動物群體(例如蜂群)的觀察發現，在這樣的群體環境里不存在任何的控制中心，每個行為主體只有簡單的智能，根據對環境的有限感知來進行簡單的行為決策，然而通過個體的簡單行為在群體上的累積卻能完成復雜的任務，這種行為即群體智能。

整個分布式系統由諸多對等關系的節點組成，每個節點有一定的計算資源和一定的存儲空間，沒有中心節點或者類似全局目錄的節點對微服務進行管理，而是通過智能體進行管理。智能體攜帶著本節點的相關數據信息和計算資源信息，智能體之間通過消息機制(廣播、點對點)進行通信，若干個智能體生存在一個節點環境中，從而形成一個由智能體構成的群體社會，協同完成微服務自適應分布操作。

整個分布式系統中的所有微服務按照某種規則劃分入Pod中，每個節點保存著一部分微服務。與此同時，為了避免多個請求訪問同一微服務而導致的系統性能下降，提高系統的吞吐量，每個節點還選擇性(根據服務請求的頻率高低)的保存了其它節點上的微服務信息。

本發明基于群體智能算法思想，將微服務分布問題通過多個智能體的集體行為來解決。每一個Pod看作是一個微服務單元，智能體根據歷史請求記錄管理一個或者多個微服務。進而，每個節點可以被看作由多個智能體組成，這些智能體通過群體智能行為來優化管理整個分布式系統中的所有的微服務及其副本的復制與同步。在本方法中三個主要的元素包括節點環境，Pod及智能體。其中：