[發明專利]一種基于FPGA云的計算優化方法、系統、存儲介質及設備

有效

• 申請號: 202011571278.6
• 申請日: 2020-12-27
• 公開（公告）號: CN112631778B
• 公開（公告）日: 2023-01-06
• 發明（設計）人: 王江為;闞宏偉;郝銳;楊樂
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06N3/063
• 代理公司: 北京連和連知識產權代理有限公司 11278
• 代理人: 陳黎明;李紅蕭

1.一種基于FPGA云的計算優化方法，其特征在于，包括以下步驟：

將待進行計算處理的神經網絡拆分為主算子和多個副算子，其中，所述主算子的計算量分別大于各副算子的計算量；

將所述主算子和各副算子分別燒寫到各自的FPGA卡中，以得到主FPGA卡和多個副FPGA卡；

將待處理數據分別發送到所述主FPGA卡和多個副FPGA卡中進行計算處理；

響應于各副FPGA卡完成計算處理并獲知所述主FPGA卡未完成計算處理，將各副FPGA卡的計算結果移交到所述主FPGA卡進行統一處理，并確認所述主FPGA卡是否處理完成；

響應于所述主FPGA卡處理完成，將處理結果上傳到主機；

其中，響應于各副FPGA卡完成計算處理并獲知所述主FPGA卡未完成計算處理，將各副FPGA卡的計算結果移交到所述主FPGA卡進行統一處理包括：

各副FPGA卡完成計算處理后，主動探知資源池中其他FPGA卡上算子的計算狀態，同時主動發起計算結果搬移的指令，把各自計算結果搬移到所述主FPGA卡，當各副FPGA卡把計算結果通過網絡搬移給所述主FPGA卡時，所述主FPGA卡剛好完成模型的計算，然后繼續進行計算結果同步處理。

2.根據權利要求1所述的方法，其特征在于，將待進行計算處理的神經網絡拆分為主算子和多個副算子包括：

分析所述神經網絡各層的計算能力以及多個FPGA卡之間的數據傳輸效率，并基于分析結果將待進行計算處理的神經網絡拆分為主算子和多個副算子。

3.根據權利要求1所述的方法，其特征在于，將所述主算子和各副算子分別燒寫到各自的FPGA卡中包括：

將所述主算子和各副算子分別燒寫到各自的FPGA卡的Kernel單元。

4.根據權利要求1所述的方法，其特征在于，所述方法還包括：

得到所述主FPGA卡和多個副FPGA卡后，分別對所述主FPGA卡和多個副FPGA卡進行初始化配置。

5.根據權利要求1所述的方法，其特征在于，所述主FPGA卡和各副FPGA卡之間通過報文交換進行通信以獲知彼此的計算狀況。

6.根據權利要求3所述的方法，其特征在于，將各副FPGA卡的計算結果移交到所述主FPGA卡進行統一處理包括：

將各副FPGA卡的計算結果分別通過各自的Shell單元移交到所述主FPGA卡的Shell單元，且將所述計算結果由所述主FPGA卡的Shell單元傳送到其Kernel單元。

7.根據權利要求1所述的方法，其特征在于，所述方法還包括：

響應于有副FPGA卡完成計算處理并獲知所述主FPGA卡已完成計算處理，返回對所述神經網絡進行算子拆分的步驟。