[發明專利]融合神經網絡的裝置、板卡、方法及可讀存儲介質在審
| 申請號： | 202011045852.4 | 申請日： | 2020-09-28 |
| 公開（公告）號： | CN114358261A | 公開（公告）日： | 2022-04-15 |
| 發明（設計）人： | 不公告發明人 | 申請（專利權）人： | 中科寒武紀科技股份有限公司 |
| 主分類號： | G06N3/063 | 分類號： | G06N3/063;G06N3/04;G06N3/08;G06K9/62;G06V10/80;G06V10/82 |
| 代理公司： | 北京維昊知識產權代理事務所(普通合伙) 11804 | 代理人： | 李波;孫新國 |
| 地址： | 100191 北京市海淀區*** | 國省代碼： | 北京;11 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 融合 神經網絡 裝置 板卡 方法 可讀 存儲 介質 | ||
1.一種融合神經網絡的集成電路裝置，包括：
計算裝置，包括多個處理器核，每個處理器核包括神經元存儲單元及權值存儲單元；
處理裝置，用以：
融合所述神經網絡以建立模板融合單元，所述模板融合單元對應有片上單元圖及片上單元圖的相應權值；以及
根據所述神經元存儲單元與所述權值存儲單元的大小將所述模板融合單元劃分為多個子模板融合單元，每個子模板融合單元對應有子圖及子圖的相應權值，所述子圖為所述片上單元圖的一部分，所述子圖的相應權值為所述片上單元圖的相應權值的一部分；
其中，所述計算裝置將所述子圖載入所述神經元存儲單元，將所述子圖的相應權值載入所述權值存儲單元，以所述子模板融合單元的單位進行計算。
2.根據權利要求1所述的集成電路裝置，其中所述計算裝置還包括共享存儲單元，所述子圖自所述共享存儲單元搬運至所述神經元存儲單元，所述子圖的相應權值自所述共享存儲單元搬運至所述權值存儲單元。
3.根據權利要求2所述的集成電路裝置，還包括片外內存，所述片上單元圖及所述片上單元圖的相應權值自所述片外內存搬運至所述共享存儲單元。
4.根據權利要求3所述的集成電路裝置，其中所述計算裝置還包括運算模塊，自所述神經元存儲單元讀取所述子圖，并自所述權值存儲單元讀取所述子圖的相應權值，計算后產出中間結果，所述中間結果暫存于所述神經元存儲單元中。
5.根據權利要求4所述的集成電路裝置，其中所述中間結果自所述神經元存儲單元搬運至所述共享存儲單元。
6.根據權利要求5所述的集成電路裝置，其中所述多個處理器核其中之一將每個子模板融合單元的中間結果進行歸約，以產生計算結果，所述計算結果自所述共享存儲單元搬運至所述片外內存。
7.一種板卡，包括根據權利要求1至6任一項所述的集成電路裝置。
8.一種根據模板融合單元計算神經網絡的計算裝置，所述模板融合單元劃分為多個子模板融合單元，每個子模板融合單元對應有子圖及子圖的相應權值，所述計算裝置包括多個處理器核，每個處理器核包括神經元存儲單元及權值存儲單元，所述計算裝置將所述子圖載入所述神經元存儲單元，將所述子圖的相應權值載入所述權值存儲單元，以所述子模板融合單元的單位進行計算。
9.根據權利要求8所述的計算裝置，其中所述計算裝置還包括共享存儲單元，所述子圖自所述共享存儲單元搬運至所述神經元存儲單元，所述子圖的相應權值自所述共享存儲單元搬運至所述權值存儲單元。
10.根據權利要求9所述的計算裝置，連接至片外內存，其中所述模板融合單元對應有片上單元圖及片上單元圖的相應權值，所述子圖為所述片上單元圖的一部分，所述子圖的相應權值為所述片上單元圖的相應權值的一部分，所述片上單元圖及所述片上單元圖的相應權值自所述片外內存搬運至所述共享存儲單元。
11.根據權利要求10所述的計算裝置，還包括運算模塊，自所述神經元存儲單元讀取所述子圖，并自所述權值存儲單元讀取所述子圖的相應權值，計算后產出中間結果，所述中間結果暫存于所述神經元存儲單元中。
12.根據權利要求11所述的計算裝置，其中所述中間結果自所述神經元存儲單元搬運至所述共享存儲單元。
13.根據權利要求12所述的計算裝置，其中所述多個處理器核其中之一將每個子模板融合單元的中間結果進行歸約，以產生計算結果，所述計算結果自所述共享存儲單元搬運至所述片外內存。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于中科寒武紀科技股份有限公司，未經中科寒武紀科技股份有限公司許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202011045852.4/1.html，轉載請聲明來源鉆瓜專利網。
