[發明專利]用于優化高性能計算構架稀疏矩陣向量乘的方法和系統

在審

• 申請號: 202010194226.5
• 申請日: 2020-03-19
• 公開（公告）號: CN111428192A
• 公開（公告）日: 2020-07-17
• 發明（設計）人: 李肯立;陳玥丹;肖國慶;陽王東;唐卓;周旭;劉楚波
• 申請（專利權）人: 湖南大學
• 主分類號: G06F17/16
• 分類號: G06F17/16
• 代理公司: 武漢臻誠專利代理事務所(普通合伙) 42233
• 代理人: 宋業斌

本發明公開了一種用于優化高性能計算構架稀疏矩陣向量乘的方法，本發明將稀疏矩陣向量乘運算分為列向乘運算和行向加運算兩大部分：列向乘運算先按稀疏矩陣的列進行乘運算，在該過程中，對輸入向量x的數據訪問從不規律、離散的變為連續的；行向加運算再按中間結果的行進行加運算，在該過程中，對輸出向量y的數據訪問從不規律、離散的變為連續的，從而避免不規則數據訪問所導致的高訪存延遲問題；本發明還設計了一種四層劃分機制，包括核組層劃分、定制化分、從核層劃分和局部內存層劃分，以使之充分利用“神威太湖之光”的多級計算構架與內存結構，避免計算核上的局存限制和負載不均衡問題。

技術領域

本發明屬于并行計算領域，更具體地，涉及一種用于優化高性能計算構架稀疏矩陣向量乘的方法和系統。

背景技術

目前，高性能計算構架已經得到了日益普遍的工業應用，其中基于SW26010多核異構處理器的“神威太湖之光”是一種典型的高性能計算構架，其是由國家并行計算機工程技術研究中心自主研發，現安裝在國家超級計算無錫中心的超級計算機，其安裝了40960個SW26010處理器。每個SW26010處理器上有4個核組，每個核組中安裝了一個主核和8*8個從核，其中主核負責預處理、從核計算任務分配、和一些不能并行化的計算等，而從核則負責并行計算。每個核組上的內存為8GB，整個SW26010 CPU的總內存為32GB。特別的是，主核上都安裝了緩存(Cache)，但每個從核上卻沒有安裝緩存，而只是安裝了一個存儲大小為64KB的便箋存儲器(Scratchpad memory)。

隨著高性能計算構架的出現，充分利用這種特殊構架的計算能力優化加速稀疏矩陣向量乘運算，已經廣泛地應用在在許多重要的科學計算應用中，包括圖計算、數據分析挖掘、運籌學等領域。

然而，現有“神威太湖之光”高性能計算構架設計的并行稀疏矩陣乘運算主要存在三個技術問題：第一，其稀疏矩陣乘運算中不規律、不連續的訪存方式導致了高昂的訪存延遲；第二，其使用的SW26010處理器的從核上的便箋存儲器只有64KB，因此導致其無法處理大規模的稀疏矩陣運算，進而影響了其大規模應用；第三，其矩陣的稀疏性容易導致從核上的負載不均衡。

發明內容

針對現有技術的以上缺陷或改進需求，本發明提供了一種用于優化高性能計算構架稀疏矩陣向量乘的方法和系統，其目的在于，解決現有“神威太湖之光”高性能計算構架的并行稀疏矩陣乘運算存在的訪存延遲高昂的技術問題，以及由于其從核上的便箋存儲器只有64KB導致其無法處理大規模的稀疏矩陣運算，進而影響其大規模應用的技術問題，以及由于其矩陣的稀疏性導致出現從核上負載不均衡的技術問題。

為實現上述目的，按照本發明的一個方面，提供了一種用于優化高性能計算構架稀疏矩陣向量乘的方法，其中高性能計算構架包括多個核組，每個核組包括一個主核和多個從核，所述方法包括以下步驟：

(1)所有主核獲取稀疏矩陣A和輸入向量x，并根據稀疏矩陣A中非零元的個數NNZ將稀疏矩陣A劃分為NP個子矩陣subA，每個子矩陣分別對應于一個主核，其中NP為高性能計算構架所包括的核組總數；

(2)每個主核利用壓縮稀疏列存儲格式對步驟(1)中得到的對應子矩陣subA進行壓縮處理，以得到壓縮后的子矩陣；

(3)每個主核根據預設閾值對步驟(2)得到的壓縮后的子矩陣中的每一個列向量進行劃分，從而得到劃分后的集合subA’，并根據集合subA’中的子集合數量對輸入向量x進行復制擴展，以得到擴展后的輸入向量x’；

(4)每個主核根據步驟(3)劃分后的集合subA’中所有非零元素的數量將該集合subA’中所有子集合分配給該主核所在核組中的多個從核，每個從核被分配到的所有子集合構成一個列向量集合即列VS，根據為上述每個從核所分配的子集合數量對擴展后的輸入向量x’進行劃分，并將劃分后得到的多個片段x_seg分別分配給對應的從核。