[發(fā)明專(zhuān)利]一種基于輕量安全容器的函數(shù)計(jì)算冷啟動(dòng)加速的方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110889359.9
• 申請(qǐng)日: 2021-08-04
• 公開(kāi)（公告）號(hào): CN113672343A
• 公開(kāi)（公告）日: 2021-11-19
• 發(fā)明（設(shè)計(jì)）人: 于春鈺;高傳集;江燕;孫思清
• 申請(qǐng)（專(zhuān)利權(quán)）人: 浪潮云信息技術(shù)股份公司
• 主分類(lèi)號(hào): G06F9/455
• 分類(lèi)號(hào): G06F9/455
• 代理公司: 濟(jì)南信達(dá)專(zhuān)利事務(wù)所有限公司 37100
• 代理人: 闞恭勇

本發(fā)明提供一種基于輕量安全容器的函數(shù)計(jì)算冷啟動(dòng)加速的方法，屬于無(wú)服務(wù)器計(jì)算領(lǐng)域，本發(fā)明包括：監(jiān)控用戶(hù)流量實(shí)現(xiàn)函數(shù)實(shí)例快速調(diào)度的算法，通過(guò)輕量虛擬化技術(shù)實(shí)現(xiàn)的多租戶(hù)安全隔離容器，在安全隔離容器上使用Linux KSM技術(shù)實(shí)現(xiàn)多虛擬機(jī)共享只讀內(nèi)存空間的并發(fā)快速啟動(dòng)，使用多級(jí)文件緩存實(shí)現(xiàn)函數(shù)代碼快速動(dòng)態(tài)加載，最后在函數(shù)實(shí)例上運(yùn)行用戶(hù)代碼拿到返回結(jié)果。本公開(kāi)實(shí)施例能解決現(xiàn)有函數(shù)計(jì)算場(chǎng)景下的多租戶(hù)安全隔離及冷啟動(dòng)速度慢的問(wèn)題，同時(shí)實(shí)現(xiàn)同等機(jī)器配置下的更高密度的函數(shù)實(shí)例部署。

技術(shù)領(lǐng)域

本發(fā)明涉及無(wú)服務(wù)器計(jì)算技術(shù)領(lǐng)域，尤其涉及一種基于輕量安全容器的函數(shù)計(jì)算冷啟動(dòng)加速的方法。

背景技術(shù)

隨著科學(xué)技術(shù)的發(fā)展，計(jì)算資源的使用變得越來(lái)越便捷化和精細(xì)化，從最開(kāi)始的物理機(jī)部署到虛擬機(jī)部署，再到容器技術(shù)的興起，資源的使用方式越來(lái)越方便快捷且精細(xì)，資源使用率不斷提高。為了進(jìn)一步提高資源利用率，同時(shí)方便業(yè)務(wù)功能的快速開(kāi)發(fā)迭代與驗(yàn)證，出現(xiàn)了無(wú)服務(wù)器計(jì)算技術(shù)。函數(shù)計(jì)算就是這一領(lǐng)域的代表，用戶(hù)無(wú)需關(guān)心底層資源的分配與維護(hù)，只需實(shí)現(xiàn)業(yè)務(wù)邏輯，并將相關(guān)代碼打包上傳到函數(shù)計(jì)算平臺(tái)，即可執(zhí)行代碼獲取結(jié)果。

函數(shù)計(jì)算以函數(shù)為最小調(diào)度單位，每個(gè)函數(shù)包含一系列的資源配置和一個(gè)包含業(yè)務(wù)邏輯的代碼包，通過(guò)觸發(fā)器或者HTTP請(qǐng)求調(diào)用函數(shù)。雖然用戶(hù)無(wú)需關(guān)心函數(shù)計(jì)算平臺(tái)的配置與維護(hù)，但是函數(shù)計(jì)算平臺(tái)還是有一整套資源管理分配與調(diào)度系統(tǒng)的，為了提高資源利用率，當(dāng)一個(gè)函數(shù)實(shí)例在一段時(shí)間內(nèi)都沒(méi)有被觸發(fā)，函數(shù)計(jì)算平臺(tái)將殺死這個(gè)函數(shù)實(shí)例，如果這個(gè)函數(shù)再次被調(diào)用，就無(wú)法復(fù)用之前的實(shí)例，從而出現(xiàn)了冷啟動(dòng)。有些函數(shù)如HTTPServer對(duì)于響應(yīng)時(shí)間有比較高的要求，如果遇到了冷啟動(dòng)，會(huì)出現(xiàn)響應(yīng)時(shí)間過(guò)長(zhǎng)或超時(shí)的問(wèn)題。現(xiàn)有技術(shù)實(shí)現(xiàn)中，使用Linux namespace和cgroup技術(shù)實(shí)現(xiàn)的容器隔離技術(shù)可以做到快速啟動(dòng)，但是在多租戶(hù)共用一個(gè)函數(shù)計(jì)算資源池時(shí)存在安全風(fēng)險(xiǎn)。當(dāng)前基于虛擬化的隔離技術(shù)的虛擬機(jī)是大家公認(rèn)的安全隔離技術(shù)，但是虛擬機(jī)啟動(dòng)速度慢，時(shí)間長(zhǎng)的問(wèn)題也是目前無(wú)法解決的。

因此，當(dāng)前技術(shù)無(wú)法同時(shí)實(shí)現(xiàn)函數(shù)計(jì)算平臺(tái)對(duì)安全隔離技術(shù)與快速的冷啟動(dòng)技術(shù)的融合需求。

發(fā)明內(nèi)容

為了解決以上技術(shù)問(wèn)題，本發(fā)明提供了一種基于輕量安全容器的函數(shù)計(jì)算冷啟動(dòng)加速的方法，解決現(xiàn)有函數(shù)計(jì)算場(chǎng)景下的多租戶(hù)安全隔離及冷啟動(dòng)速度慢的問(wèn)題，同時(shí)實(shí)現(xiàn)同等機(jī)器配置下的更高密度的函數(shù)實(shí)例部署。

本發(fā)明的技術(shù)方案是：

一種基于輕量安全容器的函數(shù)計(jì)算冷啟動(dòng)加速的方法，包括：監(jiān)控用戶(hù)流量實(shí)現(xiàn)函數(shù)實(shí)例快速調(diào)度的算法，通過(guò)輕量虛擬化技術(shù)實(shí)現(xiàn)的多租戶(hù)安全隔離容器，在安全隔離容器上使用Linux KSM技術(shù)實(shí)現(xiàn)多虛擬機(jī)共享只讀內(nèi)存空間的并發(fā)快速啟動(dòng)，使用多級(jí)文件緩存實(shí)現(xiàn)函數(shù)代碼快速動(dòng)態(tài)加載，最后在函數(shù)實(shí)例上運(yùn)行用戶(hù)代碼拿到返回結(jié)果。

函數(shù)計(jì)算的冷啟動(dòng)流程如下：

函數(shù)計(jì)算平臺(tái)上已經(jīng)沒(méi)有對(duì)應(yīng)函數(shù)的實(shí)例在運(yùn)行，有新的函數(shù)調(diào)用請(qǐng)求到達(dá)函數(shù)計(jì)算平臺(tái)，函數(shù)計(jì)算平臺(tái)發(fā)現(xiàn)已經(jīng)沒(méi)有正在運(yùn)行的函數(shù)實(shí)例可以處理請(qǐng)求，就進(jìn)入冷啟動(dòng)階段。

首先根據(jù)冷啟動(dòng)調(diào)度算法計(jì)算出啟動(dòng)函數(shù)計(jì)算實(shí)例的節(jié)點(diǎn)，然后將函數(shù)實(shí)例調(diào)度到相應(yīng)節(jié)點(diǎn)上啟動(dòng)，函數(shù)計(jì)算實(shí)例啟動(dòng)后加載用戶(hù)的代碼，然后執(zhí)行代碼返回結(jié)果給客戶(hù)端。函數(shù)計(jì)算平臺(tái)會(huì)維護(hù)一個(gè)列表來(lái)保存正在運(yùn)行的函數(shù)實(shí)例，如果實(shí)例列表里沒(méi)有對(duì)應(yīng)的函數(shù)，即觸發(fā)冷啟動(dòng)邏輯。函數(shù)實(shí)例調(diào)度到節(jié)點(diǎn)上之后，首先需要使用輕量虛擬化技術(shù)啟動(dòng)一個(gè)VM，這個(gè)VM是擁有獨(dú)立的內(nèi)核，這個(gè)VM的內(nèi)核使用Linux KSM技術(shù)和其他已運(yùn)行的VM共享相同的只讀的內(nèi)存片段，可以實(shí)現(xiàn)快速啟動(dòng)。VM啟動(dòng)后會(huì)在VM內(nèi)運(yùn)行函數(shù)的pod，其中包含函數(shù)對(duì)應(yīng)的運(yùn)行時(shí)鏡像，該鏡像已經(jīng)在函數(shù)實(shí)例啟動(dòng)前準(zhǔn)備好了，無(wú)需下載直接可以運(yùn)行。Pod啟動(dòng)后即可認(rèn)為函數(shù)計(jì)算實(shí)例已經(jīng)啟動(dòng)成功，然后加載函數(shù)代碼，函數(shù)代碼通過(guò)多級(jí)緩存技術(shù)已經(jīng)存在于Pod內(nèi)，無(wú)需下載，直接將函數(shù)代碼加載到內(nèi)存中，執(zhí)行函數(shù)代碼后直接返回結(jié)果給客戶(hù)端。