[發明專利]針對SMP集群系統采用MPI和OpenMP混合并行提高計算速度的方法

在審

• 申請號: 201310442102.4
• 申請日: 2013-09-25
• 公開（公告）號: CN104461467A
• 公開（公告）日: 2015-03-25
• 發明（設計）人: 羅海飆;廖俊豪
• 申請（專利權）人: 廣州中國科學院軟件應用技術研究所
• 主分類號: G06F9/38
• 分類號: G06F9/38
• 代理公司: 廣州新諾專利商標事務所有限公司 44100
• 代理人: 肖云

技術領域

本發明涉及一種并行計算技術，具體地說，涉及一種并行計算提高計算速度的方法。

背景技術

迭代法是目前求解大型稀疏線性方程組的主流方法，迭代法中的預條件共軛梯度法是通過預處理技術減少共軛梯度法的迭代次數，并能加速收斂的一種方法，在工程和科學計算中已有廣泛的應用。共軛梯度法是求解特定線性系統的數值解的方法，其中的系數矩陣為對稱和正定的實數陣。隨著科學與工程問題的規模和復雜程度的提高，串行共軛梯度法已經很難滿足對稀疏線性系統的求解規模和速度的要求。

由于串行計算本身存在的瓶頸，當計算量相對較大，計算機本身的性能將大大制約其進行演算的效率。現有技術中采用串行方法計算共軛梯度法，僅在處理稀疏矩陣向量乘時才啟用MPI，通過在各節點上計算分塊稀疏矩陣與分塊向量的乘積實現并行計算。但共軛梯度法除了稀疏矩陣向量乘，還有多個向量與向量、標量與向量的乘積和求和，以及線性方程組求解等計算步驟，這些計算仍然使用串行方法計算，不能最大限度地將算法并行優化。對于分布式和共享式存儲結構混合的SMP集群系統，難以充分利用計算資源，提升其計算速度。

發明內容

本發明的目的在于提供一種針對SMP集群系統采用MPI和OpenMP混合并行提高計算速度的方法，通過利用集群以及多核平臺的優勢，提升共軛梯度法的計算速度，滿足對稀疏線性系統的求解規模和速度的要求。

為了實現上述目的，本發明所采用的技術方案如下：

一種針對SMP集群系統采用MPI和OpenMP混合并行提高計算速度的方法，包括以下步驟：

（1）計算準備

a）啟動MPI多進程計算，其中進程數小于或等于可用計算節點數目；

b）每個進程讀入子稀疏矩陣A、子初始向量x₀、塊向量b和最大計算公差Tolerance，子稀疏矩陣A、子初始向量x₀和塊向量b是通過網格劃分軟件劃分問題的計算域后生成；

（2）開始預條件共軛梯度法的MPI+OpenMP并行的循環計算

1）根據初始值x₀，計算r=b-Ax₀；

2）p＝M^-1r；

3）ρ＝r^Tp；

4）每個進程開啟OpenMP多線程編譯指令，其中線程數小于或等于該線程所處計算節點可用CPU核數目：

#pragmaompparallel{??/*開始OpenMP線程*/

5）fori=1,2,……??/*開始循環*/

6）#pragmaompparallelforreduction(+:α){

7）q＝Ap??/*稀疏矩陣向量乘*/

其中，具體包括以下步驟：

①多線程并行計算行循環：按行順序，i從0循環到稀疏矩陣最后一行。其中：

a)預先讀取子稀疏矩陣A第i行的數據，存到向量tmp中；

b)j從0循環到第i行非零值結尾。其中：

i.k=第i行第j個非零值的列指數；

ii.q[k]=tmp[j]*+q[k]。

②MPI非阻塞通信交換各節點的q。

8）α＝p^Tq??/*向量內積*/

9）}

10）α＝ρ/α

11）ρ_old＝ρ

12）#pragmaompparallelforreduction(+:ρ,error){

13）x＝x+αp??/*AXPY*/

14）r＝r-αq??/*AXPY*/

15）q＝M^-1r??/*向量內積*/

16）q＝r^Tq??/*向量內積*/

17）error＝r^Tr??/*向量內積*/

18）}

19）β＝ρ/ρ_old

20）#pragmaompparallelfornowait{p＝q+βp}??/*AXPY*/

21）#pragmaompsingle{MPI_Allgather(error);

22）??If(error<tolerance)break}

23）}??/*結束for循環和OpenMP多線程計算*/

（3）各計算節點的計算結果歸約后得到最終計算結果。