[發明專利]神經網絡的硬件實現方式

在審

• 申請號: 202011362054.4
• 申請日: 2020-11-27
• 公開（公告）號: CN112884138A
• 公開（公告）日: 2021-06-01
• 發明（設計）人: 黃曦冉;查阿塔伊·迪基吉
• 申請（專利權）人: 想象技術有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04
• 代理公司: 北京三友知識產權代理有限公司 11127
• 代理人: 師瑋;王小東

1.一種在神經網絡(100)的硬件實現方式中處理數據的方法，所述硬件實現方式包括一個或多個第一存儲器裝置(312)和一個或多個第二存儲器裝置(314)，所述神經網絡(100)包括多個層(102-1、102-2、102-3；502-1、502-2)，所述方法包括：

在所述一個或多個第一存儲器裝置(312)中提供表示所述多個層的權重的權重數據和所述多個層的輸入數據(104；504)；

從所述一個或多個第一存儲器裝置(312)讀取表示所述輸入數據的第一塊的所述輸入數據(104；504)的第一子集；

從所述一個或多個第一存儲器裝置(312)讀取所述權重數據；

處理所述權重數據和所述輸入數據(104；504)的所述第一子集，以評估所述多個層中的每一層，從而計算輸出數據(106；508)的第一塊，其中評估所述多個層中的第一層之后的至少一層包括：

從所述一個或多個第二存儲器裝置(314)讀取先前層的輸出數據；

處理所述權重數據和所述先前層的所述輸出數據以評估所述至少一層，從而計算所述至少一層的輸出數據；以及

將所述至少一層的所述輸出數據寫入所述一個或多個第二存儲器裝置中以在后續層的所述評估期間讀??；以及

將輸出數據(106；508)的所述第一塊寫入所述一個或多個第一存儲器裝置(312)，

其中所述多個層中的至少一層是卷積層。

2.如權利要求1所述的方法，還包括：在從所述一個或多個第一存儲器裝置(312)讀取所述權重數據之后，將所述權重數據寫入所述一個或多個第二存儲器裝置(314)，

所述方法包括在評估每一層之前，從所述一個或多個第二存儲器裝置(314)讀取所述層的所述權重數據。

3.如權利要求1或2所述的方法，還包括在計算所述至少一層的輸出數據時：

標識所述至少一層的所述輸出數據的一次性部分，在計算輸出數據的所述第一塊之后可以將所述一次性部分刪除；以及

標識所述至少一層的所述輸出數據的非一次性部分，在計算輸出數據的所述第一塊之后應該保留所述非一次性部分，以用于計算輸出數據的至少一個其他塊。

4.如權利要求3所述的方法，包括，當將所述至少一層的所述輸出數據寫入所述一個或多個第二存儲裝置(314)時：

將所述一次性部分寫入所述一個或多個第二存儲器的第一區段(802)；以及

將所述非一次性部分寫入所述一個或多個第二存儲器裝置的第二不同區段(804)，

可選地，其中，當評估所述多個層中的另外的層時，所述輸出數據的所述一次性部分的至少一部分被重寫，可選地，其中所述一次性部分由所述另外的層的輸出數據的一次性部分重寫。