[發明專利]一種基于循環切割和重排的現場可編程門陣列卷積層的動態優化方法

有效

• 申請號: 201811201717.7
• 申請日: 2018-10-16
• 公開（公告）號: CN109583006B
• 公開（公告）日: 2023-07-21
• 發明（設計）人: 陳朋;陳慶清;王海霞;趙智;劉義鵬;梁榮華
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06N3/0464
• 分類號: G06N3/0464;G06N3/082;G06N3/063;G06F17/15;G06F30/34;G06F111/04
• 代理公司: 杭州斯可睿專利事務所有限公司 33241
• 代理人: 王利強

1.一種基于循環切割和重排的現場可編程門陣列卷積層的動態優化方法，其特征在于，所述方法包括以下步驟：

1)根據卷積運算的計算過程，獲取卷積層的計算公式；

2)設定對應的分割參數，對由步驟1)獲取到的卷積層計算公式進行循環分割，形成兩個子循環；

3)對由步驟1)獲取到的卷積層計算公式，和步驟2)切割所得的子循環，分析循環參數的數據共享關系；

4)根據由步驟3)分析所得的數據共享關系，在高層次綜合工具中通過在轉化過程中插入編譯指示指令的方法，對步驟2)分割后所獲得的子循環進行重排與展開優化；

5)使用高層次綜合工具的仿真工具，生成對應的綜合報告，其中包括了計算過程所使用的資源占比，將所獲得的資源占比報告與資源約束條件對比，判斷是否滿足當前資源約束條件下的最優結果，如果不是，則修改分割參數或重排順序，并重復步驟2)3)4)；

6)使用高層次綜合工具對步驟5)生成的卷積運算進行實例化，將C語言轉化為Verilog語言，生成寄存器傳輸級電路，生成對應的卷積層功能模塊；

所述步驟2)中，將卷積層的計算過程分割成兩個子循環，子循環一如下式所示：

組合Tm,Tn,Tr,Tr就是所以設定的分割參數，其中Tm，Tn，Tr和Tr分別是對輸出特征圖深度，輸入特征圖深度，輸出特征圖寬和長的分塊，另一個子循環如下式所示：

2.如權利要求1所述的一種基于循環切割和重排的現場可編程門陣列卷積層的動態優化方法，其特征在于，所述步驟1)中，卷積層接收N個大小為w*H特征圖作為輸入，每個輸入特征圖是通過M個窗口為K×K的卷積內核映射來生成輸出特性，窗口的平移步長為S，小于K，總共N個輸入特征圖將形成M個大小為R×C的輸出特征圖集，公式表達如下：

其中OUT表示輸出特征圖集，表示IN輸入特征圖集，W表示權重集。

3.如權利要求1或2所述的一種基于循環切割和重排的現場可編程門陣列卷積層的動態優化方法，其特征在于，所述步驟3)中，根據步驟1)所得的卷積計算公式，將不同循環迭代之間的數據共享關系可以分為三類：無關、獨立、依賴；

I)無關：如果循環迭代器i_k沒有出現在數組A的任何訪問函數中，則對應的循環維數與數組A無關；

II)獨立：如果數組A所訪問的數據空間并集和循環維數i_k是完全可分離的，或者對于任意兩個不同的參數p₁和p₂，對于i_k＝p₁和i_k＝p₂在不同圖像的數據空間中是不相交的，那么循環維數i_k與數組A是相互獨立的；

III)依賴：如果數組A上訪問的數據空間并集不能沿著某個循環維數i_k進行分離，則認為循環維數i_k依賴于數組A；

trr與輸入IN、權重W和輸出OUT的數據共享關系分別為依賴、無關和獨立；

tcc與輸入IN、權重W和輸出OUT的數據共享關系分別為依賴、無關和獨立；

too與輸入IN、權重W和輸出OUT的數據共享關系分別為無關、獨立和獨立；

tii與輸入IN、權重W和輸出OUT的數據共享關系分別為獨立、獨立和無關；

i與輸入IN、權重W和輸出OUT的數據共享關系分別為依賴、獨立和無關；

j與輸入IN、權重W和輸出OUT的數據共享關系分別為依賴、獨立和無關；

從硬件實現的角度來看，獨立的數據共享關系在緩沖區和計算模塊之間生成直接連接，無關的數據共享關系生成廣播連接，依賴的數據共享關系產生具有復雜拓撲的互連。

4.如權利要求1或2所述的一種基于循環切割和重排的現場可編程門陣列卷積層的動態優化方法，其特征在于，所述步驟4)中，對所生成的硬件結構進行優化，其中一項優化技術就是循環展開，還有一項關鍵優化技術是流水線循環，重復執行不同循環迭代的操作；

對步驟2)分割后所獲得的子循環進行優化，先根據分析得到的數據共享關系將內部循環進行重排，再將排列到最內部的循環進行展開，同時加上流水線循環來提高系統吞吐量，優化后的計算過程如下式所示：

其中F(x)表示循環展開，L(x)表示流水線循環。