[發明專利]無服務器計算系統中的調用器池化方法及系統

有效

• 申請號: 202011636030.3
• 申請日: 2020-12-31
• 公開（公告）號: CN112860317B
• 公開（公告）日: 2022-03-29
• 發明（設計）人: 路煜;張路;李超
• 申請（專利權）人: 上海交通大學
• 主分類號: G06F9/00
• 分類號: G06F9/00
• 代理公司: 上海交達專利事務所 31201
• 代理人: 王毓理;王錫麟

一種無服務器計算系統中的調用器池化方法及系統，通過在無服務器計算系統中設置重定向表，在無服務器計算系統的控制器選擇調用器后，重定向表根據控制器已選擇的調用器所在的分組，在其中隨機定位一個狀態可用的調用器，將選擇調用器信息輸出代替最初的選擇信息進行控制，以此來實現同個池中調用器的負載平衡。本發明能夠顯著提升無服務器計算系統的效率，節約內存資源的同時減少應用的等待時間。

技術領域

本發明涉及的是一種互聯網信息處理領域的技術，具體是一種無服務器計算系統中的調用器池化方法及系統。

背景技術

無服務器計算(serverless computing)是指用戶不需要關注服務器的部署配置，只需要關注具體需要的服務，運營商則具體負責底層操作系統和硬件設施，并在軟件容器(software container)環境下運行用戶的服務。

調用器是無服務器計算中處理調用的實體，在一個無服務器計算系統中存在當干個調用器，調用器內部則維護當干容器，應用運行在調用器內部的容器中。但是，不同應用需要不同的容器環境，在運行前需要配置容器環境，這被稱作容器的冷啟動。冷啟動需要大量的時間并占用內存資源，對于容器化應用的效率有很大影響。

由于一個調用器的容量有限，且目前的無服務器計算系統的任務分配機制是以調用器為單位，所以目前的無服務器計算系統無法在面對多變的負載強度時展現出彈性，具體表現為：1)負載強度高于當前系統容量時，大規模地冷啟動容器，系統效率降低。2)負載強度低于當前系統容量，大量容器處于空閑，系統效率降低。同時，目前樸素的調用器選擇策略也讓同種類型的應用更容易分散到多個調用器中處理，降低系統的效率。

發明內容

本發明針對現有無服務期計算系統中所存在的由于冷啟動和空閑占用所導致的資源浪費以及處理延遲長等問題，提出一種無服務器計算系統中的調用器池化方法及系統，可以通過重定向表實現對調用器的池化管理，突破單一調用器的容量上限，也實現同一類型應用的聚集處理，以及通過調用器復制、關閉和負載遷移來實現調用器池容量動態的靈活的調整，以減少冷啟動和空閑等待造成的性能損失。

本發明是通過以下技術方案實現的：

本發明涉及一種無服務器計算系統中的調用器池化方法，通過在無服務器計算系統中設置重定向表，在無服務器計算系統的控制器選擇調用器后，重定向表根據控制器已選擇的調用器所在的分組，在其中隨機定位一個狀態可用的調用器，將選擇調用器信息輸出代替最初的選擇信息進行控制，以此來實現同個池中調用器的負載平衡。

所述的重定向表包括：用于池化管理的當干組調用器，每個調用器的狀態為可用與不可用，其中：重定向表再重新定向負載時僅選擇狀態為可用的調用器。

所述的重定向表反映調用器是否可以被選做執行處理負載的任務，而調用器狀態表反映是否需要對其進行調整或者是否可以配合其他調用器調整。

所述的重定向表，以池化管理的方式周期性更新其中的調用器的狀態，具體步驟包括：

1)由容量控制模塊周期性檢查調用器狀態表并獲取其中存在堵塞狀態以及標記為不可用的調用器；

所述的調用器狀態表包括：堵塞或空閑狀態以及負載類型，其中：堵塞或空閑狀態是指調用器的負載隊列的長度超出所設定的閾值并導致任務被堵塞與否。

所述的空閑狀態是指：無負載的調用器，特征為重定向表中標記為不可用，在調用器狀態表中負載類型標記為“-”。

2)將堵塞狀態的調用器中的與執行調用有關的容器相關配置信息復制至空閑狀態的調用器；

3)更新重定向表。

所述的復制，具體是指：向無服務器計算系統中的堵塞狀態的調用器發起復制請求，將從屬于該調用器的容器相關配置信息中轉至緩存區，再向目標的標記為不可用的調用器發送請求讀取緩存區，最后清理緩存區。