[發明專利]利用黑盒模擬器進行神經網絡處理器設計的方法

有效

• 申請號: 201711034124.1
• 申請日: 2017-10-30
• 公開（公告）號: CN109726805B
• 公開（公告）日: 2021-02-09
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 任巖

1.一種利用黑盒模擬器進行神經網絡處理器設計的方法，包括：

選取至少一組合作為神經網絡模型的輸入，設定至少一處理器設計目標作為神經網絡模型的輸出；

根據所述輸入及輸出訓練神經網絡模型；以及

利用訓練后的神經網絡模型對不同的處理器進行預測，確定滿足所述處理器設計目標的處理器；

其中，所述組合包括參數組合和/或運算器組合；

所述參數組合為處理器的設計參數組合。

2.根據權利要求1所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，所述處理器設計目標包括以下至少其中之一：精度目標、功耗目標、速度目標及面積目標。

3.根據權利要求1所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，所述處理器的設計參數組合包括以下至少其中之一：用于片上存儲的規模及位寬、數據傳輸的帶寬及主頻。

4.根據權利要求1所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，所述運算器組合包括乘法器和/或加法器的組合。

5.根據權利要求1所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，在所述選取至少一組合作為神經網絡模型的輸入的步驟之前，還包括：選定一算法及其配置，并進行初始化。

6.根據權利要求5所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，所述配置包括預定誤差閾值、預定迭代次數閾值；所述初始化包括權值、偏移量參數初始化。

7.根據權利要求5所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，所述算法包括卷積神經網絡、支持向量機、決策樹。

8.根據權利要求1所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，所述根據所述輸入及輸出訓練神經網絡模型的步驟，包括：

訓練神經網絡模型，得到預測輸出；

計算預測輸出和真實輸出之間的誤差，并與一預定誤差閾值進行比較；

若預測輸出和真實輸出之間的誤差小于或等于預定誤差閾值，則結束對神經網絡模型的訓練；否則重復訓練神經網絡模型，直至迭代次數達到一預定迭代次數閾值。

9.根據權利要求4所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，所述選取至少一組合作為神經網絡模型的輸入的步驟，包括：

從所述運算器組合中選取M種不同精度或相同的乘法器、N種不同或相同精度的加法器，M, N為正整數，分別對應所述處理器中運算部分的各個運算器m1,m2,m3,m4至mM,a1,a2,a3至aN；

對這些運算器進行編碼并歸一化，分別表示為Vm1,Vm2,Vm3,Vm4至VmM,Va1,Va2,Va3至VaN，作為模擬器的輸入數據。

10.根據權利要求1所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，所述處理器設計目標為分離的輸出或以通過加權方式進行組合。

11.根據權利要求1所述的利用黑盒模擬器進行神經網絡處理器設計的方法，其中，利用訓練后的神經網絡模型對不同的處理器進行預測，確定滿足所述處理器設計目標的處理器的步驟為利用訓練后的神經網絡模型對不同的參數組合和運算器組合的處理器進行預測，確定滿足所述處理器設計目標的參數組合和運算器的處理器。

12.一種神經網絡處理器，包括存儲單元和處理單元，其中，所述存儲單元存儲如權利要求1至11中任一項所述的方法，所述處理單元執行如權利要求1至11中任一項所述的方法。

13.一種芯片，其包括了如權利要求12所述的神經網絡處理器。