[發明專利]一種基于高層次綜合工具的深度學習模型優化方法及系統

在審

• 申請號: 202111058333.6
• 申請日: 2021-09-09
• 公開（公告）號: CN113780553A
• 公開（公告）日: 2021-12-10
• 發明（設計）人: 陳弟虎;陳家榮;王自鑫;粟濤;胡炳翔;陳潤明;黃俊龍
• 申請（專利權）人: 中山大學
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04;G06F30/27;G06F111/06
• 代理公司: 廣州粵高專利商標代理有限公司 44102
• 代理人: 劉俊

1.一種基于高層次綜合工具的深度學習模型優化方法，其特征在于，包括以下步驟：

根據目標功能設計深度學習模型；

獲取訓練樣本，輸入所述深度學習模型進行訓練，得到深度學習模型的參數權值；

根據所述深度學習模型的參數權值，通過高層次語言表示所述深度學習模型；

對所述深度學習模型中的各層循環體進行優化；

通過高層次綜合工具將經過優化的深度學習模型進行聯合仿真。

2.根據權利要求1所述的基于高層次綜合工具的深度學習模型優化方法，其特征在于，對所述深度學習模型中的循環體進行優化時，對循環體采用循環分塊、循環展開、循環流水技術中的一種或多種。

3.根據權利要求1所述的基于高層次綜合工具的深度學習模型優化方法，其特征在于，通過高層次綜合工具將經過優化的深度學習模型進行聯合仿真中，還包括以下步驟：通過高層次綜合工具對所述的深度學習模型的循環體進行循環流水優化。

4.根據權利要求3所述的基于高層次綜合工具的深度學習模型優化方法，其特征在于，對所述深度學習模型的循環體進行循環流水優化的步驟包括：判斷所述深度學習模型的循環體是否為嵌套循環，若是，則將所述嵌套循環中各層循環下的子循環完全展開后再對子循環進行流水線處理；若否，則僅對最內層循環進行流水線處理。

5.根據權利要求1所述的基于高層次綜合工具的深度學習模型優化方法，其特征在于，通過高層次綜合工具將經過優化的深度學習模型進行聯合仿真，還包括以下步驟：將經過訓練的深度學習模型的參數權值配置在所述深度學習模型中，并將其前向傳播的過程進行高層次綜合設計。

6.根據權利要求1～5任一項所述的基于高層次綜合工具的深度學習模型優化方法，其特征在于，還包括以下步驟：將經過高層次綜合工具進行聯合仿真得到的深度學習模型的IP核燒錄至FPGA上，驗證所述深度學習模型的功能準確性及優化效果。

7.一種基于高層次綜合工具的深度學習模型優化系統，其特征在于，包括：

深度學習模型設計模塊，用于根據目標功能設計深度學習模型；

訓練模塊，用于將訓練樣本輸入所述深度學習模型進行訓練，得到深度學習模型的參數權值；

高層次語言表示模塊，用于根據所述深度學習模型的參數權值，通過高層次語言表示所述深度學習模型；

優化模塊，用于對所述深度學習模型中的各層循環體進行優化；

高層次綜合工具，用于將經過優化的深度學習模型進行聯合仿真。

8.根據權利要求7所述的基于高層次綜合工具的深度學習模型優化系統，其特征在于，所述深度學習模型設計模塊包括：

卷積運算設計單元，用于設計及構建由輸入層到卷積層的卷積運算；

池化運算設計單元，用于設計及構建由卷積層到池化層的池化運算；

全連接算法設計單元，用于設計及構建由池化層到輸出層的全連接算法。

9.根據權利要求7所述的基于高層次綜合工具的深度學習模型優化系統，其特征在于，所述優化模塊包括：

循環分塊單元，用于將循環體拆分為若干小循環體；

循環展開單元，用于將循環體中各層循環下的自循環完全展開；

循環流水處理單元，用于對循環體進行流水線處理。

10.根據權利要求7所述的基于高層次綜合工具的深度學習模型優化系統，其特征在于，所述系統還包括FPGA模塊，用于燒錄經所述高層次綜合工具聯合仿真得到的深度學習模型IP核，并驗證所述深度學習模型的功能準確性及優化效果。