[發(fā)明專利]一種面向MPI的Serverless并行計(jì)算方法及其系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202210837029.X
• 申請日: 2022-07-15
• 公開（公告）號: CN115357375A
• 公開（公告）日: 2022-11-18
• 發(fā)明（設(shè)計(jì)）人: 袁雨馨;史驍;趙曉芳
• 申請（專利權(quán)）人: 中國科學(xué)院計(jì)算技術(shù)研究所
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/54
• 代理公司: 北京律誠同業(yè)知識產(chǎn)權(quán)代理有限公司 11006
• 代理人: 祁建國;張燕華

本發(fā)明公開了一種面向MPI的Serverless并行計(jì)算方法及其系統(tǒng)，其中方法包括：動態(tài)地址映射步驟，建立函數(shù)名與對應(yīng)的網(wǎng)絡(luò)地址之間的映射關(guān)系，并對Serverless并行計(jì)算平臺的普通函數(shù)與并行函數(shù)統(tǒng)一編制；計(jì)算模型構(gòu)建步驟，在該Serverless并行計(jì)算平臺中構(gòu)建并行函數(shù)管理運(yùn)行時環(huán)境、并行函數(shù)地址訪問機(jī)制、并行函數(shù)調(diào)度機(jī)制，并通過函數(shù)副本機(jī)制實(shí)現(xiàn)對并行計(jì)算模型的支持，將函數(shù)副本集合內(nèi)的各函數(shù)與各并行計(jì)算進(jìn)程建立對應(yīng)關(guān)系，以利于并行計(jì)算進(jìn)程的執(zhí)行；及并行計(jì)算實(shí)現(xiàn)步驟，由該Serverless并行計(jì)算平臺實(shí)現(xiàn)MPI并行計(jì)算進(jìn)程。本發(fā)明解決Serverless環(huán)境下IP尋址問題、并行函數(shù)調(diào)用問題、差異化并行協(xié)作執(zhí)行問題。

技術(shù)領(lǐng)域

本發(fā)明涉及并行計(jì)算及Serverless(無服務(wù)器計(jì)算)技術(shù)領(lǐng)域，特別是一種面向MPI的Serverless并行計(jì)算方法及其系統(tǒng)。

背景技術(shù)

隨著多核處理器和云計(jì)算系統(tǒng)的廣泛應(yīng)用，并行計(jì)算已成為有效利用資源的重要手段。在分布式架構(gòu)下，并行計(jì)算中的數(shù)據(jù)交換和任務(wù)的協(xié)調(diào)與合作可以通過消息傳遞實(shí)現(xiàn)。MPI(消息傳遞接口，Message Passing Interface)是目前最為通用的并行編程方式，也是分布式并行系統(tǒng)的主要編程環(huán)境?；贛PI的編程模型開發(fā)的應(yīng)用涵蓋了大多數(shù)HPC(高性能計(jì)算，High Performance Computing)的工作負(fù)載，這些負(fù)載需要運(yùn)行在有MPI運(yùn)行時環(huán)境的單機(jī)或分布式集群上。在傳統(tǒng)的云基礎(chǔ)設(shè)施(包括基礎(chǔ)設(shè)施即服務(wù)IaaS)中已經(jīng)可以成功部署并運(yùn)行并行計(jì)算應(yīng)用。相比于在傳統(tǒng)集群上運(yùn)行，通過利用云資源的彈性，應(yīng)用可以從云環(huán)境下豐富的算力資源中獲益，從而實(shí)現(xiàn)性能的提升。然而，雖然云計(jì)算將用戶從物理基礎(chǔ)設(shè)施管理中解脫出來，但留給他們的卻是大量的虛擬資源需要管理，而目前云并沒有解決分布式計(jì)算的所有挑戰(zhàn)，比如當(dāng)計(jì)算規(guī)模和數(shù)據(jù)量發(fā)生變化時，固定的資源分配方案就不能適應(yīng)不斷變化的負(fù)載需求，導(dǎo)致資源分配過度或分配不足，又如在云環(huán)境下用戶需要手動維護(hù)集群資源管理器(如Slurm、Torque等)，應(yīng)用的運(yùn)維變得非常復(fù)雜，特別是對于容器化的工作負(fù)載。

近年來，無服務(wù)器計(jì)算(Serverless Computing)的出現(xiàn)可以一定程度上解決并行計(jì)算在傳統(tǒng)云基礎(chǔ)設(shè)施上運(yùn)行所存在的問題。Serverless是一種新的云計(jì)算模式，旨在構(gòu)建一種運(yùn)行時無需管理服務(wù)器等基礎(chǔ)設(shè)施的架構(gòu)，其中的函數(shù)即服務(wù)(Function as aService,FaaS)是目前Serverless架構(gòu)實(shí)現(xiàn)的一個重要手段。在云環(huán)境下，用戶的傳統(tǒng)方法是使用云供應(yīng)商的IaaS來提供虛擬機(jī)(VM)，并以類似于內(nèi)部集群的方式使用它；而在Serverless環(huán)境下，Serverless將云資源的完全彈性與最大限度簡化的編程模型結(jié)合起來：用戶只需對無狀態(tài)函數(shù)進(jìn)行編程，而云則承擔(dān)起對這些函數(shù)的調(diào)用進(jìn)行細(xì)粒度調(diào)度的責(zé)任。在易用性方面，Serverless使用戶專注于業(yè)務(wù)邏輯，無需考慮基礎(chǔ)設(shè)施如服務(wù)器、操作系統(tǒng)或文件系統(tǒng)、運(yùn)行時甚至是容器管理，最大化實(shí)現(xiàn)零運(yùn)維，降低了用戶技術(shù)準(zhǔn)入門檻。在性能方面，面對不同規(guī)模的并行計(jì)算，Serverless能夠?qū)崿F(xiàn)大量并行函數(shù)的高效編排和極致擴(kuò)縮容，以提升應(yīng)用的執(zhí)行效率，并在即付即用的模式下，對不同并行度下對計(jì)算資源進(jìn)行彈性分配，達(dá)到按需分配資源最大化資源利用率的目標(biāo)。

現(xiàn)有技術(shù)存在的問題和缺點(diǎn)如下：

目前，Serverless仍然無法有效支持MPI并行計(jì)算的開展。由于面向MPI的并行編程模型有許多固有特征，比如基于MPI的進(jìn)程間通信(Inter-Process Communication，IPC)是需要通過IP尋址實(shí)現(xiàn)，MPI并行進(jìn)程的執(zhí)行邏輯是同其身份相關(guān)而有差異化的，多節(jié)點(diǎn)的執(zhí)行需要MPI運(yùn)行時的支持等，而原生Serverless函數(shù)是動態(tài)生成且無狀態(tài)的，沒有網(wǎng)絡(luò)地址可供尋址，函數(shù)副本之間是沒有差異的，且不能同時執(zhí)行等等限制，導(dǎo)致了現(xiàn)有Serverless技術(shù)并不能很好的適配傳統(tǒng)的MPI應(yīng)用。