[實(shí)用新型]一種卷積神經(jīng)網(wǎng)絡(luò)推理加速器有效
| 申請(qǐng)?zhí)枺?/td> | 202020683437.0 | 申請(qǐng)日: | 2020-04-28 |
| 公開(公告)號(hào): | CN211554991U | 公開(公告)日: | 2020-09-22 |
| 發(fā)明(設(shè)計(jì))人: | 李麗;黃延;傅玉祥;宋文清;何書專 | 申請(qǐng)(專利權(quán))人: | 南京寧麒智能計(jì)算芯片研究院有限公司 |
| 主分類號(hào): | G06N3/04 | 分類號(hào): | G06N3/04;G06N3/063;G06N5/04;G06K9/00 |
| 代理公司: | 江蘇瑞途律師事務(wù)所 32346 | 代理人: | 金龍 |
| 地址: | 210000 江蘇省南京市江*** | 國省代碼: | 江蘇;32 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 卷積 神經(jīng)網(wǎng)絡(luò) 推理 加速器 | ||
1.一種卷積神經(jīng)網(wǎng)絡(luò)推理加速器,其特征在于,包括主控制模塊、地址產(chǎn)生模塊,SRAM存儲(chǔ)模塊、數(shù)據(jù)輸入模塊、計(jì)算引擎模塊及結(jié)果輸出模塊,其中:
主控制模塊,接收開始信號(hào),向地址產(chǎn)生模塊、數(shù)據(jù)輸入模塊、計(jì)算引擎模塊和結(jié)果輸出模塊分發(fā)數(shù)據(jù);
地址產(chǎn)生模塊,接收主控制模塊和結(jié)果輸出模塊的數(shù)據(jù),向SRAM存儲(chǔ)模塊發(fā)送控制信號(hào);
SRAM存儲(chǔ)模塊,接收地址產(chǎn)生模塊的控制信號(hào),向數(shù)據(jù)輸入模塊發(fā)送存儲(chǔ)數(shù)據(jù);
數(shù)據(jù)輸入模塊,接收主控制模塊和SRAM存儲(chǔ)模塊的數(shù)據(jù),將數(shù)據(jù)發(fā)送至計(jì)算引擎模塊;
計(jì)算引擎模塊,接收主控制模塊和數(shù)據(jù)輸入模塊的數(shù)據(jù),將結(jié)果數(shù)據(jù)發(fā)送至結(jié)果輸出模塊;
結(jié)果輸出模塊,接收計(jì)算引擎模塊的結(jié)果數(shù)據(jù),將結(jié)果數(shù)據(jù)發(fā)送至地址產(chǎn)生模塊。
2.根據(jù)權(quán)利要求1所述的一種卷積神經(jīng)網(wǎng)絡(luò)推理加速器,其特征在于:所述計(jì)算引擎模塊包括若干個(gè)并行計(jì)算單元。
3.根據(jù)權(quán)利要求2所述的一種卷積神經(jīng)網(wǎng)絡(luò)推理加速器,其特征在于:所述并行計(jì)算單元包括若干個(gè)乘累加單元和激活函數(shù)計(jì)算單元,乘累加單元通過數(shù)據(jù)輸入總線接收數(shù)據(jù)輸入模塊的數(shù)據(jù),通過結(jié)果輸入總線將數(shù)據(jù)發(fā)送至激活函數(shù)計(jì)算單元。
4.根據(jù)權(quán)利要求3所述的一種卷積神經(jīng)網(wǎng)絡(luò)推理加速器,其特征在于:所述乘累加單元包括定點(diǎn)乘法器和定點(diǎn)加法器,定點(diǎn)乘法器與定點(diǎn)加法器相連接。
5.根據(jù)權(quán)利要求3所述的一種卷積神經(jīng)網(wǎng)絡(luò)推理加速器,其特征在于:所述激活函數(shù)單元包括查找表存儲(chǔ)器、定點(diǎn)乘法器、定點(diǎn)加法器以及兩個(gè)寄存器,查找表存儲(chǔ)器和第一寄存器接收數(shù)據(jù),查找表存儲(chǔ)器將數(shù)據(jù)發(fā)送至定點(diǎn)乘法器和第二寄存器,定點(diǎn)乘法器與第二寄存器將數(shù)據(jù)發(fā)送至定點(diǎn)加法器。
6.根據(jù)權(quán)利要求1所述的一種卷積神經(jīng)網(wǎng)絡(luò)推理加速器,其特征在于:所述主控制模塊向地址產(chǎn)生模塊發(fā)送的數(shù)據(jù)包括開始信號(hào)和補(bǔ)零信號(hào)。
7.根據(jù)權(quán)利要求6所述的一種卷積神經(jīng)網(wǎng)絡(luò)推理加速器,其特征在于:地址產(chǎn)生模塊接收補(bǔ)零信號(hào),將生成的補(bǔ)零地址發(fā)送至結(jié)果輸出模塊,結(jié)果輸出模塊將結(jié)果數(shù)據(jù)與補(bǔ)零地址發(fā)送至SRAM存儲(chǔ)模塊。
8.根據(jù)權(quán)利要求1所述的一種卷積神經(jīng)網(wǎng)絡(luò)推理加速器,其特征在于:計(jì)算引擎模塊接收到數(shù)據(jù)輸入模塊的數(shù)據(jù)包括輸入數(shù)據(jù)有效信號(hào)、模塊關(guān)斷信號(hào)和定點(diǎn)位置信號(hào)。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于南京寧麒智能計(jì)算芯片研究院有限公司,未經(jīng)南京寧麒智能計(jì)算芯片研究院有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請(qǐng)聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202020683437.0/1.html,轉(zhuǎn)載請(qǐng)聲明來源鉆瓜專利網(wǎng)。
- 上一篇:一種導(dǎo)熱防水硅膠墊
- 下一篇:一種便于維護(hù)的測斜管套件
- 卷積運(yùn)算處理方法及相關(guān)產(chǎn)品
- 一種卷積神經(jīng)網(wǎng)絡(luò)的計(jì)算方法及系統(tǒng)
- 卷積運(yùn)算方法及系統(tǒng)
- 卷積運(yùn)算方法、裝置及系統(tǒng)
- 深度神經(jīng)網(wǎng)絡(luò)裁剪方法、裝置及電子設(shè)備
- 基于卷積神經(jīng)網(wǎng)絡(luò)的圖像處理方法和圖像處理裝置
- 卷積神經(jīng)網(wǎng)絡(luò)及基于卷積神經(jīng)網(wǎng)絡(luò)的圖像處理方法
- 一種圖像處理方法、裝置以及計(jì)算機(jī)存儲(chǔ)介質(zhì)
- 用于卷積神經(jīng)網(wǎng)絡(luò)的卷積運(yùn)算裝置
- 基于FPGA實(shí)現(xiàn)圖像識(shí)別的方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)
- 硬件神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法、計(jì)算裝置、軟硬件協(xié)作系統(tǒng)
- 生成較大神經(jīng)網(wǎng)絡(luò)
- 神經(jīng)網(wǎng)絡(luò)的生成方法、生成裝置和電子設(shè)備
- 一種舌診方法、裝置、計(jì)算設(shè)備及計(jì)算機(jī)存儲(chǔ)介質(zhì)
- 學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
- 脈沖神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法及相關(guān)轉(zhuǎn)換芯片
- 圖像處理方法、裝置、可讀存儲(chǔ)介質(zhì)和計(jì)算機(jī)設(shè)備
- 一種適應(yīng)目標(biāo)數(shù)據(jù)集的網(wǎng)絡(luò)模型微調(diào)方法、系統(tǒng)、終端和存儲(chǔ)介質(zhì)
- 用于重構(gòu)人工神經(jīng)網(wǎng)絡(luò)的處理器及其操作方法、電氣設(shè)備
- 一種圖像神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化方法及裝置
- 基于語義搜索的推理方法
- 一種基于規(guī)則的分布式推理方法及系統(tǒng)
- 一種上下文分布式推理方法和裝置
- 數(shù)據(jù)推理方法、裝置及計(jì)算機(jī)設(shè)備
- 多重推理方式的專家分診系統(tǒng)及其方法
- 多推理模式融合的老年病推理診斷系統(tǒng)
- 推理系統(tǒng)、推理方法、電子設(shè)備及計(jì)算機(jī)存儲(chǔ)介質(zhì)
- 一種推理服務(wù)模型的運(yùn)行方法及裝置
- 一種評(píng)估指標(biāo)權(quán)重確定方法智能選擇的方法及系統(tǒng)
- AIStation推理平臺(tái)的推理服務(wù)管理方法和裝置





