[發(fā)明專利]無服務(wù)器背景下函數(shù)實例數(shù)量自適應(yīng)方法及應(yīng)用

在審

• 申請?zhí)枺?/td>: 202211271418.7
• 申請日: 2022-10-17
• 公開（公告）號: CN115629858A
• 公開（公告）日: 2023-01-20
• 發(fā)明（設(shè)計）人: 李鑫;陳子聰;王寧;秦小麟
• 申請（專利權(quán)）人: 南京航空航天大學(xué)
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50;G06F9/54;G06N3/0442;G06N3/049;G06N3/08
• 代理公司: 蘇州三英知識產(chǎn)權(quán)代理有限公司 32412
• 代理人: 潘時偉

本發(fā)明公開了一種無服務(wù)器背景下函數(shù)實例數(shù)量自適應(yīng)方法及應(yīng)用，所述方法包括：獲取函數(shù)實例的歷史請求負載數(shù)據(jù)；基于歷史請求負載數(shù)據(jù)訓(xùn)練預(yù)測模型；將訓(xùn)練后的預(yù)測模型輸入遠程過程調(diào)用服務(wù)器，以使遠程過程調(diào)用服務(wù)器輸出預(yù)測任務(wù)請求數(shù)量；基于預(yù)測任務(wù)請求數(shù)量動態(tài)調(diào)整函數(shù)實例數(shù)量。該方法以函數(shù)實例的歷史請求負載數(shù)據(jù)作為預(yù)測模型的訓(xùn)練數(shù)據(jù)，并將訓(xùn)練后的預(yù)測模型輸入遠程過程調(diào)用服務(wù)器，以得到預(yù)測任務(wù)請求數(shù)量，最后根據(jù)預(yù)測任務(wù)請求數(shù)量動態(tài)調(diào)整函數(shù)實例數(shù)量，實現(xiàn)了可提前調(diào)整宿主機集群中宿主機的函數(shù)實例數(shù)量，減少任務(wù)請求在應(yīng)用系統(tǒng)中的排隊時間；同時，在任務(wù)請求負載不高的時候釋放閑置的函數(shù)實例，回收其所持有的資源。

技術(shù)領(lǐng)域

本發(fā)明是關(guān)于云計算技術(shù)領(lǐng)域，特別是關(guān)于一種無服務(wù)器背景下函數(shù)實例數(shù)量自適應(yīng)方法及應(yīng)用。

背景技術(shù)

無服務(wù)器計算是一種新型的云計算商業(yè)模式，易用性和低費用是無服務(wù)器計算正在變得越來越流行的主要原因。與傳統(tǒng)的基礎(chǔ)架構(gòu)即服務(wù)不同，在無服務(wù)器計算平臺上，用戶只需要編寫并提交自己的函數(shù)，不需要管理與函數(shù)運行相關(guān)的底層運行環(huán)境，平臺依據(jù)函數(shù)運行時所消耗的資源進行收費，在函數(shù)實例沒有請求到來時平臺不進行收費。

因為閑置的函數(shù)實例平臺不進行收費，平臺傾向于將這些閑置的函數(shù)實例進行釋放，回收資源。但是過于激進地釋放函數(shù)實例也會帶來問題。當(dāng)下次函數(shù)的請求到來時，請求會因為沒有實例可以處理它而排隊，而函數(shù)實例生成是需要一定的時間的，這稱為冷啟時間。大多數(shù)無服務(wù)器計算平臺上的函數(shù)執(zhí)行時間非常短，在1秒不到甚至幾十毫秒，而冷啟動時間卻能達到2秒以上，這對于時延敏感型函數(shù)來說是不可接受的。

因此，大多數(shù)無服務(wù)器計算平臺采取將閑置實例保活一段固定時間的方式，犧牲資源上的開銷而避免下一次請求到達時因無函數(shù)實例可處理而導(dǎo)致時延增加的情況。如OpenWhisk就采取了將函數(shù)實例保活固定10分鐘的時間，下一次請求到來時，10分鐘的計時會被重置。

同時，為了避免過少的函數(shù)實例無法處理過多的并發(fā)請求的情況，研究者提出了一種依據(jù)隊列內(nèi)排隊請求數(shù)量和函數(shù)實例處理速度來計算需要生成的函數(shù)實例數(shù)量的方法，但此方法仍未解決閑置的函數(shù)實例應(yīng)該如何釋放來回收資源的問題。

發(fā)明內(nèi)容

本發(fā)明的目的在于提供一種無服務(wù)器背景下函數(shù)實例數(shù)量自適應(yīng)方法及應(yīng)用，其用以解決現(xiàn)有技術(shù)中存在的任務(wù)請求因缺少相應(yīng)的函數(shù)實例處理而導(dǎo)致時延增加、以及如何釋放閑置的函數(shù)實例來回收資源的技術(shù)問題。

為實現(xiàn)上述目的，本發(fā)明的實施例提供了一種無服務(wù)器背景下函數(shù)實例數(shù)量自適應(yīng)方法，所述方法包括：

獲取函數(shù)實例的歷史請求負載數(shù)據(jù)，所述歷史請求負載數(shù)據(jù)包括每個相等時間間隔內(nèi)所述函數(shù)實例接收的任務(wù)請求數(shù)量；

基于所述歷史請求負載數(shù)據(jù)訓(xùn)練預(yù)測模型；

將訓(xùn)練后的所述預(yù)測模型輸入遠程過程調(diào)用服務(wù)器，以使所述遠程過程調(diào)用服務(wù)器輸出預(yù)測任務(wù)請求數(shù)量；

基于所述預(yù)測任務(wù)請求數(shù)量動態(tài)調(diào)整所述函數(shù)實例數(shù)量。

在本發(fā)明的一個或多個實施方式中，將訓(xùn)練后的所述預(yù)測模型輸入遠程過程調(diào)用服務(wù)器，以使所述遠程過程調(diào)用服務(wù)器輸出預(yù)測任務(wù)請求數(shù)量，具體包括：設(shè)置滑動窗口，并將當(dāng)前時間間隔內(nèi)所述函數(shù)實例接收的任務(wù)請求數(shù)量加入所述滑動窗口；將所述滑動窗口以及函數(shù)實例的類別輸入所述遠程過程調(diào)用服務(wù)器，以使所述遠程過程調(diào)用服務(wù)器加載函數(shù)實例對應(yīng)的目標(biāo)預(yù)測模型；基于所述目標(biāo)預(yù)測模型以及滑動窗口確定預(yù)測任務(wù)請求數(shù)量。

在本發(fā)明的一個或多個實施方式中，基于所述目標(biāo)預(yù)測模型以及滑動窗口確定預(yù)測任務(wù)請求數(shù)量，具體包括：基于所述目標(biāo)預(yù)測模型并采用多步時間序列預(yù)測算法，預(yù)測所述滑動窗口經(jīng)過當(dāng)前時間間隔后下一時間步內(nèi)加入的任務(wù)請求數(shù)量，以確定預(yù)測任務(wù)請求數(shù)量。