[發(fā)明專(zhuān)利]基于深度學(xué)習(xí)的虛擬資源調(diào)度系統(tǒng)與方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110685996.4
• 申請(qǐng)日: 2021-06-21
• 公開(kāi)（公告）號(hào): CN113326134A
• 公開(kāi)（公告）日: 2021-08-31
• 發(fā)明（設(shè)計(jì)）人: 曾念峰;其他發(fā)明人請(qǐng)求不公開(kāi)姓名
• 申請(qǐng)（專(zhuān)利權(quán)）人: 易成功（廈門(mén)）信息科技有限公司
• 主分類(lèi)號(hào): G06F9/50
• 分類(lèi)號(hào): G06F9/50;G06N3/063;G06N3/08
• 代理公司: 廈門(mén)荔信航知專(zhuān)利代理事務(wù)所(特殊普通合伙) 35247
• 代理人: 馬小玲

本發(fā)明提出基于深度學(xué)習(xí)的虛擬資源調(diào)度系統(tǒng)與方法。所述調(diào)度系統(tǒng)包括第一宿主機(jī)和第二宿主機(jī)，第一宿主機(jī)配置有第一深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器，第二宿主機(jī)上配置有第二深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器；第一深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器包含多個(gè)處理器分支；當(dāng)處理器分支的第一節(jié)點(diǎn)包含輸入數(shù)據(jù)并且第三節(jié)點(diǎn)包含輸出數(shù)據(jù)時(shí)該處理器分支為激活分支；在第一宿主機(jī)上運(yùn)行第一數(shù)量的容器，在第二宿主機(jī)上運(yùn)行第二數(shù)量的容器，基于第一深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器的第一輸入層的第一激活分支量，確定所述第一數(shù)量的值，基于第二深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器的第二輸出層的第二激活分支量，確定所述第二數(shù)量的值。本發(fā)明還提出對(duì)應(yīng)的虛擬資源調(diào)度方法。

技術(shù)領(lǐng)域

本發(fā)明屬于深度學(xué)習(xí)與資源調(diào)度領(lǐng)域，尤其涉及一種基于深度學(xué)習(xí)的虛擬資源調(diào)度系統(tǒng)、方法與計(jì)算機(jī)可讀介質(zhì)。

背景技術(shù)

資源調(diào)度是指在特定的資源環(huán)境下，根據(jù)一定的資源使用規(guī)則，在不同的資源使用者之間進(jìn)行資源調(diào)整的過(guò)程。這些資源使用者對(duì)應(yīng)著不同的計(jì)算任務(wù)(例如一個(gè)虛擬解決方案)，每個(gè)計(jì)算任務(wù)存操作系統(tǒng)中對(duì)應(yīng)于一個(gè)或者多個(gè)進(jìn)程。通常有兩種途徑可以實(shí)現(xiàn)計(jì)算任務(wù)的資源調(diào)度:在計(jì)算任務(wù)所在的機(jī)器上調(diào)整分配給它的資源使用量，或者將計(jì)算任務(wù)轉(zhuǎn)移到其他機(jī)器上。

容器(可稱(chēng)為docker/contaier/pod等)拉取/啟動(dòng)快速，隔離資源效果好，因此成為最常見(jiàn)的虛擬資源形式。抽象來(lái)看，可以將容器的image作為job的一部分分發(fā)調(diào)度執(zhí)行。基于Docker容器的資源管理方案，將資源管理整合成一個(gè)資源管理與調(diào)度平臺(tái)，而作業(yè)控制則放到應(yīng)用程序框架中從而解決擴(kuò)展性差的問(wèn)題。各個(gè)服務(wù)組件中的各個(gè)模塊則采用虛擬化容器Docker進(jìn)行資源隔離，提高了資源利用率，同時(shí)也保證了安全性。在基于容器的分布式資源管理平臺(tái)之上，可以構(gòu)建類(lèi)似于視頻流服務(wù)、深度學(xué)習(xí)計(jì)算框架等服務(wù)，形成媒體智能處理層，但是容器化后會(huì)引入gpu，網(wǎng)絡(luò)等性能的代價(jià)。

國(guó)際申請(qǐng)PCT/CN2018/085714公開(kāi)一種資源分配方法及裝置、計(jì)算機(jī)存儲(chǔ)介質(zhì)，所述方法包括：第一設(shè)備獲取第一資源配置信息，所述第一資源配置信息用于確定第一鏈路的可用資源，其中，所述第一鏈路是所述第一設(shè)備和第二設(shè)備之間的鏈路；

中國(guó)專(zhuān)利申請(qǐng)文件CN201310752071.2提出一種資源動(dòng)態(tài)分配的管理方法和裝置，該資源動(dòng)態(tài)分配的管理方法包括：對(duì)將要執(zhí)行的業(yè)務(wù)操作進(jìn)行分析，確定該業(yè)務(wù)操作在不同時(shí)間段所需的資源量；根據(jù)確定出的業(yè)務(wù)操作在不同時(shí)間段所需的資源量，生成資源伸縮配置信息；根據(jù)資源伸縮配置信息，為不同時(shí)間段執(zhí)行業(yè)務(wù)操作分配對(duì)應(yīng)的資源。該發(fā)明通過(guò)預(yù)先對(duì)將要執(zhí)行的業(yè)務(wù)操作進(jìn)行分析，確定該業(yè)務(wù)操作在不同時(shí)間段所需的資源量，然后，根據(jù)該資源量，生成資源伸縮配置信息，并根據(jù)該資源伸縮配置信息，為不同時(shí)間執(zhí)行業(yè)務(wù)操作分配對(duì)應(yīng)的資源，從而實(shí)現(xiàn)了在不同的時(shí)間段，采用不同的伸縮策略進(jìn)行資源的動(dòng)態(tài)分配，進(jìn)而有效的提高了資源池的使用效率，使得資源池更具有彈性。

然而，現(xiàn)有技術(shù)的虛擬資源調(diào)度尤其是容器資源調(diào)度，調(diào)度程序只能確保對(duì)于每種資源類(lèi)型，所調(diào)度的容器的資源請(qǐng)求的總和小于節(jié)點(diǎn)的容量。如果節(jié)點(diǎn)上的實(shí)際內(nèi)存或CPU資源使用量非常低，如果容量檢查失敗，調(diào)度程序仍會(huì)拒絕在該節(jié)點(diǎn)上放置Pod，無(wú)法根據(jù)實(shí)際情況進(jìn)行動(dòng)態(tài)的調(diào)整。這種限于總量滿足的控制方式，導(dǎo)致虛擬資源的調(diào)度準(zhǔn)確性不高。

發(fā)明內(nèi)容

為解決上述技術(shù)問(wèn)題，本發(fā)明提出一種基于深度學(xué)習(xí)的虛擬資源調(diào)度系統(tǒng)、方法與計(jì)算機(jī)可讀介質(zhì)。

所述調(diào)度系統(tǒng)包括第一宿主機(jī)和第二宿主機(jī)，第一宿主機(jī)配置有第一深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器，第二宿主機(jī)上配置有第二深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器；第一深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器包含多個(gè)處理器分支；當(dāng)處理器分支的第一節(jié)點(diǎn)包含輸入數(shù)據(jù)并且第三節(jié)點(diǎn)包含輸出數(shù)據(jù)時(shí)該處理器分支為激活分支；在第一宿主機(jī)上運(yùn)行第一數(shù)量的容器，在第二宿主機(jī)上運(yùn)行第二數(shù)量的容器，基于第一深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器的第一輸入層的第一激活分支量，確定所述第一數(shù)量的值，基于第二深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器的第二輸出層的第二激活分支量，確定所述第二數(shù)量的值。