[發明專利]一種面向神經網絡處理的全局廣播數據輸入電路

有效

• 申請號: 202010746509.6
• 申請日: 2020-07-29
• 公開（公告）號: CN111882051B
• 公開（公告）日: 2022-05-20
• 發明（設計）人: 韓軍;張權;張永亮;曾曉洋
• 申請（專利權）人: 復旦大學
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 上海正旦專利代理有限公司 31200
• 代理人: 陸飛;陸尤

本發明屬于集成電路技術領域，具體為面向神經網絡處理的全局廣播數據輸入電路。本發明電路包括：記錄數據接收次數的頂層模塊，用于垂直方向上輸入數據廣播發射的垂直總線模塊，用于水平方向上輸入數據廣播發射的水平總線模塊，選中指定運算單元的廣播發射模塊。該電路采用水平和垂直方向上的兩級總線形式，對數據通路進行切割，高并行發送數據的同時，極大降低了單一總線形式下巨大的帶寬帶來的額外面積開銷和功耗開銷；同時在廣播發射模塊中引入運算單元標識號和輸入數據標簽握手機制，保證輸入電路數據發送功能正確的同時，提高數據復用度，減少電路訪存次數，提升電路整體能效比。本發明能夠有效提升神經網絡處理中的輸入數據傳輸效率。

技術領域

本發明屬于集成電路技術領域，具體涉及一種面向神經網絡處理的全局廣播數據輸入電路。

背景技術

神經網絡算法在計算機視覺、語音識別以及機器人控制等重要領域都得到了良好應用，但是各類應用也對神經網絡算法的精度和復雜度不斷提出更高的要求，導致算法的實現面臨一系列挑戰性問題。最近的神經網絡處理器架構研究表明，基于陣列并行的空間型處理器架構，搭配行固定數據流策略，然后搭配特定的數據傳輸通路，能夠很好的利用神經網絡算法本身內部的高并行性和高復用度，從而大大減少數據的訪存次數，提升處理器整體能效比。

數據傳輸通路是存儲系統與卷積運算陣列完成數據交互的重要媒介，數據傳輸通路的硬件實現關鍵在于如何高并發傳輸數據的同時減少因帶寬帶來的面積開銷和功耗開銷。對于高并發數據而言，可以將輸入數據直接發送到卷積運算陣列中所有的運算單元，隨著卷積運算陣列規模的增大，這種直接發送的方法帶來的帶寬開銷會很高。另一種方法是采用兩級總線的形式，對數據通路進行切割，對兩級總線來說，帶寬開銷相對較小。這種兩級總線的形式是常見的硬件實現方式，并且有利于陣列并行的空間型神經網絡處理器架構的實現，大大降低因數據帶寬帶來的面積開銷和功耗開銷。本設計提出了基于行固定數據流策略，采用兩級總線結構，完成數據的高并行全局輸入。

發明內容

為了克服現有技術的不足，本發明的目的在于提供一種面向神經網絡處理的全局廣播數據輸入電路，配合行固定數據流策略，采用兩級總線結構，完成輸入數據的全局傳輸。

本發明提供的面向神經網絡處理的全局廣播數據輸入電路，其結構包括頂層模塊、垂直總線模塊、水平總線模塊和廣播發射模塊；其中：

所述頂層模塊，用于接收來自存儲系統的數據包，根據數據包內部信號自動記錄數據接收個數以及標識號數組的自動切換；具體而言，頂層模塊根據外部控制信號自動計算單個卷積層的數據發送次數，并且記錄已接收數據的行數，保證數據發送次數的準確度，并向廣播發射單元發送ID數組的切換信號，保證數據的有序發送；所述頂層模塊的輸入數據為數據包和數據標簽：數據包是輸入數據數組，每個數據包內含有8個8-bit的輸入數據、數據數值對應的掩碼以及卷積行結尾信號；數據標簽包含行標簽和列標簽。