[發(fā)明專利]一種FPGA池化資源任務(wù)均衡的方法、系統(tǒng)、設(shè)備及介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202011032724.6
• 申請(qǐng)日: 2020-09-27
• 公開（公告）號(hào): CN112231096B
• 公開（公告）日: 2023-01-06
• 發(fā)明（設(shè)計(jì)）人: 歐明陽;闞宏偉;趙坤
• 申請(qǐng)（專利權(quán)）人: 蘇州浪潮智能科技有限公司
• 主分類號(hào): G06F9/50
• 分類號(hào): G06F9/50;H04L12/46;H04L47/125;H04L47/10
• 代理公司: 北京連和連知識(shí)產(chǎn)權(quán)代理有限公司 11278
• 代理人: 劉小峰;宋薇薇

本發(fā)明公開了一種FPGA池化資源任務(wù)均衡的方法、系統(tǒng)、設(shè)備和存儲(chǔ)介質(zhì)，方法包括：在資源狀態(tài)表中記載每個(gè)FPGA的處理容量、當(dāng)前可用容量和添加狀態(tài)；響應(yīng)于接收到任務(wù)流，將任務(wù)流輸入任務(wù)隊(duì)列中以完成流量融合；判斷資源狀態(tài)表中的當(dāng)前可用容量的總和是否大于任務(wù)隊(duì)列的總流量；以及響應(yīng)于資源狀態(tài)表中的當(dāng)前可用容量的總和大于任務(wù)隊(duì)列的總流量，根據(jù)每個(gè)FPGA的當(dāng)前可用容量對(duì)總流量進(jìn)行分配。本發(fā)明將部署在大二層網(wǎng)絡(luò)的FPGA加速器視為可以獨(dú)立提供計(jì)算加速服務(wù)的實(shí)體，將任務(wù)流分配給每個(gè)FPGA，解決了VxLAN架構(gòu)中的FPGA池化資源在系統(tǒng)延遲約束狀態(tài)下的流量均衡問題。

技術(shù)領(lǐng)域

本發(fā)明涉及FPGA領(lǐng)域，更具體地，特別是指一種FPGA池化資源任務(wù)均衡的方法、系統(tǒng)、計(jì)算機(jī)設(shè)備及可讀介質(zhì)。

背景技術(shù)

目前，數(shù)據(jù)中心部署大量服務(wù)器來執(zhí)行不同任務(wù)，而同一服務(wù)又需要多臺(tái)服務(wù)器組成的集群系統(tǒng)來提高整體的處理性能，因此需要將不同任務(wù)的流調(diào)度以實(shí)現(xiàn)相應(yīng)的需求，再通過流量調(diào)度器將用戶對(duì)某一任務(wù)的大量請(qǐng)求均衡地分發(fā)到后端集群服務(wù)器上。由于數(shù)據(jù)中心網(wǎng)絡(luò)規(guī)則的拓?fù)洌说蕉酥g存在多條等價(jià)路徑，需要負(fù)載均衡機(jī)制使得流量得以均分到各路徑上，因此通常在三層交換機(jī)中采用ECMP(Equal-CostMultipathRouting，等價(jià)路由)和WCMP(Weighted Cost Multipath，加權(quán)多路由)兩種機(jī)制在網(wǎng)絡(luò)層實(shí)現(xiàn)等價(jià)路徑的負(fù)載均衡。

當(dāng)某個(gè)應(yīng)用的流到達(dá)數(shù)據(jù)中心后，數(shù)據(jù)中心需要將該流路由到服務(wù)集群中某個(gè)具體的服務(wù)器進(jìn)行處理，由于服務(wù)器負(fù)載情況的不同以及網(wǎng)絡(luò)狀態(tài)的變化，將流導(dǎo)入不同的服務(wù)器會(huì)造成不同的開銷和性能，尤其是服務(wù)器的利用率會(huì)導(dǎo)致不同的流處理完成的時(shí)間，從而直接影響服務(wù)的完成質(zhì)量。因此，需要部署流量調(diào)度器，通過負(fù)載均衡算法將大量用戶的請(qǐng)求分發(fā)到后端集群的不同服務(wù)器上，以保證數(shù)據(jù)中心服務(wù)能力健壯性。

將FPGA(Field-programmable gate array，可編程邏輯陣列)池化資源劃入VxLAN(Virtual Extensible LAN，虛擬可擴(kuò)展局域網(wǎng))進(jìn)行管理雖然解決了FPGA池化資源的部署問題，但是并未解決資源的合理利用問題。以提供視頻流鑒別的FPGA池化資源為例，當(dāng)應(yīng)用流到達(dá)數(shù)據(jù)中心后，需要解決如何將流路由到視頻流加速器資源池的問題，當(dāng)多條應(yīng)用流同時(shí)到達(dá)數(shù)據(jù)中心后，則需要解決應(yīng)用流在視頻流加速器資源池的均衡問題。

現(xiàn)在提出針對(duì)數(shù)據(jù)中心任務(wù)的均衡方法，首先沒有充分考慮到當(dāng)FPGA可作為一個(gè)獨(dú)立的網(wǎng)絡(luò)計(jì)算設(shè)備部署在數(shù)據(jù)中心中。這就導(dǎo)致，現(xiàn)有的容器微服務(wù)架構(gòu)，直接通過docker容器配合K8s來調(diào)度FPGA計(jì)算單元的方式，依然基于FPGA host-device的開發(fā)模式來設(shè)計(jì)并使用FPGA加速器。其本質(zhì)，依然是將FPGA視作一個(gè)受主機(jī)端代碼控制的從設(shè)備。

發(fā)明內(nèi)容

有鑒于此，本發(fā)明實(shí)施例的目的在于提出一種FPGA池化資源任務(wù)均衡的方法、系統(tǒng)、計(jì)算機(jī)設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，通過將部署在大二層網(wǎng)絡(luò)的FPGA加速器視為可以獨(dú)立提供計(jì)算加速服務(wù)的實(shí)體，將任務(wù)流分配給每個(gè)FPGA，解決了VxLAN架構(gòu)中的FPGA池化資源在系統(tǒng)延遲約束狀態(tài)下的流量均衡問題。

基于上述目的，本發(fā)明實(shí)施例的一方面提供了一種FPGA池化資源任務(wù)均衡的方法，包括如下步驟：在資源狀態(tài)表中記載每個(gè)FPGA的處理容量、當(dāng)前可用容量和添加狀態(tài)；響應(yīng)于接收到任務(wù)流，將所述任務(wù)流輸入任務(wù)隊(duì)列中以完成流量融合；判斷所述資源狀態(tài)表中的當(dāng)前可用容量的總和是否大于所述任務(wù)隊(duì)列的總流量；以及響應(yīng)于所述資源狀態(tài)表中的當(dāng)前可用容量的總和大于所述任務(wù)隊(duì)列的總流量，根據(jù)每個(gè)FPGA的當(dāng)前可用容量對(duì)所述總流量進(jìn)行分配。

在一些實(shí)施方式中，所述判斷所述資源狀態(tài)表中的當(dāng)前可用容量的總和是否大于所述任務(wù)隊(duì)列的總流量包括：確定所述資源狀態(tài)表中添加狀態(tài)為正常的FPGA，并判斷所述添加狀態(tài)為正常的FPGA的可用容量的總和是否大于所述任務(wù)隊(duì)列的總流量。