[發(fā)明專利]一種應(yīng)用于CFD高性能計(jì)算的數(shù)據(jù)跨進(jìn)程傳輸方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202110707260.2
• 申請(qǐng)日: 2021-06-25
• 公開(kāi)（公告）號(hào): CN113254241B
• 公開(kāi)（公告）日: 2021-09-21
• 發(fā)明（設(shè)計(jì)）人: 陳堅(jiān)強(qiáng);郭永恒;張勇;趙鐘;何先耀;肖中云
• 申請(qǐng)（專利權(quán)）人: 中國(guó)空氣動(dòng)力研究與發(fā)展中心計(jì)算空氣動(dòng)力研究所
• 主分類號(hào): G06F9/54
• 分類號(hào): G06F9/54;G06F9/455;G06F30/28;G06F111/10;G06F113/08;G06F119/14
• 代理公司: 成都九鼎天元知識(shí)產(chǎn)權(quán)代理有限公司 51214
• 代理人: 徐靜

本發(fā)明公開(kāi)了一種應(yīng)用于CFD高性能計(jì)算的數(shù)據(jù)跨進(jìn)程傳輸方法，首先創(chuàng)建由本質(zhì)為字符型向量容器的多個(gè)基本片段首尾順次鏈接構(gòu)成的動(dòng)態(tài)容器，將CFD數(shù)值模擬的不同進(jìn)程間需要進(jìn)行通信的數(shù)據(jù)打包成統(tǒng)一的字符型數(shù)據(jù)；然后將MPI通信函數(shù)封裝在動(dòng)態(tài)容器中，進(jìn)行MPI通信，將動(dòng)態(tài)容器中儲(chǔ)存的數(shù)據(jù)進(jìn)行傳輸。其中，基本片段的標(biāo)準(zhǔn)長(zhǎng)度上限不超過(guò)MPI緩沖區(qū)的大小，在進(jìn)行傳輸時(shí)，可分片執(zhí)行。本發(fā)明對(duì)緩沖區(qū)的利用率大幅提升的前提下又降低了數(shù)據(jù)的通信次數(shù)，同時(shí)，基本片段標(biāo)準(zhǔn)長(zhǎng)度上限也有效避免了緩沖區(qū)溢出，對(duì)于大規(guī)模數(shù)據(jù)的傳輸，可以通過(guò)分片執(zhí)行的模式，擺脫緩沖區(qū)大小的約束，避免通信堵塞的發(fā)生。

技術(shù)領(lǐng)域

本發(fā)明屬于數(shù)據(jù)跨進(jìn)程傳輸領(lǐng)域，具體涉及一種應(yīng)用于CFD高性能計(jì)算的數(shù)據(jù)跨進(jìn)程傳輸方法。

背景技術(shù)

計(jì)算流體力學(xué)（Computational Fluid Dynamics，簡(jiǎn)稱為CFD），是利用計(jì)算機(jī)和數(shù)值方法對(duì)流體力學(xué)問(wèn)題進(jìn)行數(shù)值模擬和分析的新興交叉學(xué)科，屬于典型的計(jì)算、訪存密集型的科學(xué)計(jì)算領(lǐng)域，強(qiáng)烈地依賴于高性能計(jì)算機(jī)的發(fā)展。目前，隨著計(jì)算機(jī)硬件和并行計(jì)算技術(shù)的發(fā)展，為適應(yīng)航空航天等領(lǐng)域大規(guī)模數(shù)值模擬的需求，高性能CFD軟件的研制引起了日益廣泛的關(guān)注。至今，以MPI、OpenMP等為代表的并行編程環(huán)境已在高性能CFD軟件的研制中得到廣泛應(yīng)用。

目前，在國(guó)內(nèi)外已經(jīng)有了不少的針對(duì)基于網(wǎng)格離散的數(shù)值模擬領(lǐng)域的并行計(jì)算框架，例如OpenFOAM、Moose、Overture、JASMIN/JAUMIN/JCOGIN等。但由于結(jié)構(gòu)網(wǎng)格拓?fù)涞牟煌陨喜⑿芯幊炭蚣芑径际菃为?dú)針對(duì)結(jié)構(gòu)網(wǎng)格或者非結(jié)構(gòu)網(wǎng)格開(kāi)發(fā)的，難以做到并行通信與網(wǎng)格無(wú)關(guān)。而在CFD工程應(yīng)用中，非結(jié)構(gòu)網(wǎng)格因其生成簡(jiǎn)單被廣泛應(yīng)用于復(fù)雜幾何外形，但離散精度較低；結(jié)構(gòu)網(wǎng)格因其具有較高的離散精度對(duì)于特殊問(wèn)題有不可替代的角色，但生成復(fù)雜。如果對(duì)于結(jié)構(gòu)、非結(jié)構(gòu)網(wǎng)格分別采用不同的并行計(jì)算框架，那么同樣的一套計(jì)算方法將難以適應(yīng)于不同的網(wǎng)格類型，難以對(duì)不同應(yīng)用領(lǐng)域?qū)嵤╈`活且精細(xì)地?cái)?shù)值模擬。

隨著高性能計(jì)算（High performance computing，縮寫(xiě)HPC）技術(shù)不斷地更新迭代，其主流體系結(jié)構(gòu)趨向于采用在分布式內(nèi)存管理模式下的超級(jí)計(jì)算機(jī)集群（簡(jiǎn)稱超算），如Titan、Summit、“神威·太湖之光”等。但在分布式內(nèi)存管理模式下，伴隨著CFD計(jì)算網(wǎng)格規(guī)模與基于區(qū)域分解計(jì)算的分區(qū)總數(shù)的增加以及多學(xué)科求解器的融合，跨進(jìn)程傳輸?shù)某橄髷?shù)據(jù)總量和次數(shù)也相應(yīng)增加，從而在并行通信方面產(chǎn)生更多的成本開(kāi)銷。在實(shí)際運(yùn)用中，如重疊網(wǎng)格隱式并行算法，數(shù)據(jù)的跨進(jìn)程傳輸量比網(wǎng)格塊對(duì)接關(guān)系高出若干量級(jí)。此外，在傳統(tǒng)CFD軟件中，為降低整體的通信次數(shù)，經(jīng)常將不同精度的數(shù)據(jù)轉(zhuǎn)化成單一類型的數(shù)據(jù)（比如將int、float類型提升為double型數(shù)據(jù)），統(tǒng)一存儲(chǔ)在一維數(shù)組中；當(dāng)通信結(jié)束后，再執(zhí)行數(shù)據(jù)類型的逆轉(zhuǎn)化操作。顯然，這種方法增加了通信數(shù)據(jù)的總長(zhǎng)度，不僅對(duì)緩沖區(qū)造成了浪費(fèi)，而且產(chǎn)生了額外的通信時(shí)間。同時(shí)，在給定的操作系統(tǒng)上，單個(gè)雙精度浮點(diǎn)型數(shù)組可分配的連續(xù)內(nèi)存是有限的，緩沖區(qū)的大小也是有限的，這就意味著單一數(shù)組打包技術(shù)對(duì)海量數(shù)據(jù)的運(yùn)載能力是有限的。盡管MPI為用戶提供了結(jié)構(gòu)體數(shù)據(jù)打包傳輸接口，但是受內(nèi)存對(duì)齊原理的約束，這種通訊方式仍然造成緩存浪費(fèi)和通訊成本的增加。

發(fā)明內(nèi)容

本發(fā)明的目的在于：針對(duì)上述存在的問(wèn)題，提供一種應(yīng)用于CFD高性能計(jì)算的數(shù)據(jù)跨進(jìn)程傳輸方法，將不同進(jìn)程間需要進(jìn)行通信的數(shù)據(jù)利用動(dòng)態(tài)容器進(jìn)行打包，利用動(dòng)態(tài)容器打包后的通信數(shù)據(jù)全部轉(zhuǎn)換成了統(tǒng)一的字符型數(shù)據(jù)，動(dòng)態(tài)容器中首尾鏈接的基本片段有長(zhǎng)度上限，在進(jìn)行數(shù)據(jù)傳輸時(shí)，可以擺脫緩沖區(qū)大小的約束，不會(huì)造成通信阻塞，且大大減少了通信次數(shù)。傳輸完成后只需要根據(jù)動(dòng)態(tài)容器的全局指針和基本片段的局部指針，將不同類型的數(shù)據(jù)元素依次讀出，并進(jìn)行逆向解碼，即可得到打包前的原數(shù)據(jù)類型的通信數(shù)據(jù)。

本發(fā)明目的通過(guò)下述技術(shù)方案來(lái)實(shí)現(xiàn)：一種應(yīng)用于CFD高性能計(jì)算的數(shù)據(jù)跨進(jìn)程傳輸方法，包括：

S1、數(shù)據(jù)打包：創(chuàng)建動(dòng)態(tài)容器，將CFD數(shù)值模擬中不同進(jìn)程間需要進(jìn)行通信的各種類型的通信數(shù)據(jù)拷貝至所述動(dòng)態(tài)容器中，完成數(shù)據(jù)打包；