[發(fā)明專利]一種基于鐵電存儲器的神經(jīng)網(wǎng)絡(luò)電路及其控制方法

有效

• 申請?zhí)枺?/td>: 201910753677.5
• 申請日: 2019-08-15
• 公開（公告）號: CN110619108B
• 公開（公告）日: 2021-04-30
• 發(fā)明（設(shè)計）人: 蔡一茂;凌堯天;王宗巍;鄭琪霖;喻志臻;鮑霖;吳林東;黃如
• 申請（專利權(quán)）人: 北京大學(xué)
• 主分類號: G06F17/16
• 分類號: G06F17/16;G06F30/30;G06N3/063
• 代理公司: 北京萬象新悅知識產(chǎn)權(quán)代理有限公司 11360
• 代理人: 賈曉玲

本發(fā)明提供一種基于鐵電存儲器的神經(jīng)網(wǎng)絡(luò)電路及其控制方法，屬于半導(dǎo)體(semiconductor)、和CMOS混合集成電路技術(shù)領(lǐng)域。本發(fā)明通過創(chuàng)新的電路設(shè)計，使得向量與矩陣的乘法運算有了新型的解決方式。這種解決方式利用電容電荷積累與電荷重分配的特性，可以高速度、低功耗地完成向量與矩陣的乘法，且具有電路結(jié)構(gòu)簡單，與現(xiàn)有CMOS工藝兼容的特性，對未來新型神經(jīng)網(wǎng)絡(luò)加速芯片的研究有著重要意義。

技術(shù)領(lǐng)域

本發(fā)明屬于半導(dǎo)體(semiconductor)、和CMOS混合集成電路技術(shù)領(lǐng)域，具體涉及一種基于鐵電存儲器(Ferroelectric random access memory,FeRAM)的神經(jīng)網(wǎng)絡(luò)電路結(jié)構(gòu)。

背景技術(shù)

近年來，隨著人工智能技術(shù)的發(fā)展，各種神經(jīng)網(wǎng)絡(luò)算法層出不窮，如深度神經(jīng)網(wǎng)絡(luò)(Deep Neuron Network，DNN)、卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neuron Network，CNN)和脈沖神經(jīng)網(wǎng)絡(luò)(Spike Neuron Network，SNN)等。這些神經(jīng)網(wǎng)絡(luò)算法中，大量用到了向量、矩陣之間的乘法運算。高維度的矩陣相乘運算在CPU上的運算速度非常低，在GPU上的運算速度和功耗也不盡如人意，現(xiàn)在對一個大型神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，通常要采用多塊GPU同時工作，并訓(xùn)練相當(dāng)長的時間，其速度和功耗等均無法滿足未來人工智能要應(yīng)用的領(lǐng)域，諸如自動駕駛、智能家居等。

利用新型存儲器來制備專用的神經(jīng)網(wǎng)絡(luò)加速芯片以代替?zhèn)鹘y(tǒng)的GPU是目前一個有前景的研究方向，在這一方向上，人們通常使用阻變類型的存儲器，例如阻變存儲器(Resistive Random Access Memory，RRAM)和相變存儲器(Phase Change Random AccessMemory，PCRAM)等來制備神經(jīng)網(wǎng)絡(luò)加速芯片。但是這類神經(jīng)網(wǎng)絡(luò)加速芯片存在泄漏電流問題，多值特性也不容易實現(xiàn)，制約了新型神經(jīng)網(wǎng)絡(luò)加速芯片的發(fā)展。

鐵電存儲器作為新型存儲器的一種，有別于阻變存儲器，可通過電壓來調(diào)節(jié)其電容大小，并可實現(xiàn)電容的多值。利用電容而非電壓來存儲神經(jīng)網(wǎng)絡(luò)算法中節(jié)點權(quán)重，可以解決新型神經(jīng)網(wǎng)絡(luò)電路中的泄漏電流問題，電容多值的實現(xiàn)也支持了新型神經(jīng)網(wǎng)絡(luò)加速芯片的發(fā)展。

發(fā)明內(nèi)容

本發(fā)明提出了一種基于鐵電存儲器的神經(jīng)網(wǎng)絡(luò)電路結(jié)構(gòu)及其控制方法，使得神經(jīng)網(wǎng)網(wǎng)絡(luò)可以完成向量與矩陣的乘法運算。

本發(fā)明提供的技術(shù)方案如下：

一種基于鐵電存儲器的神經(jīng)網(wǎng)絡(luò)電路結(jié)構(gòu)，包括以縱橫式交叉集成鐵電存儲器，形成神經(jīng)元陣列，其特征在于，在上述神經(jīng)元陣列的一邊，每一根電路字線上接一個多路選擇器，多路選擇器控制輸入到字線的信號為輸入脈沖信號或者是零電平信號；在與上述神經(jīng)元陣列的邊不同且不相對的另一邊，每一根電路位線上接一個運算放大器的同向輸入端，運算放大器的反相輸入端接地，該電路位線通過并聯(lián)的開關(guān)和電容與神經(jīng)網(wǎng)絡(luò)電路的輸出端相連。

脈沖信號的參數(shù)范圍為：

電平低位：-0.5V～0.5V；

電平高位：0.1V～5V；

脈沖信號寬度：10ns～1ms；

上升沿時間：1ns-100us。

本發(fā)明還進(jìn)一步提供一種基于鐵電存儲器的神經(jīng)網(wǎng)絡(luò)電路的控制方法，其特征在于，

在數(shù)據(jù)輸入階段，輸入數(shù)據(jù)通過前端電路調(diào)制成脈沖輸入信號，通過多路選擇器的控制輸入到神經(jīng)元陣列中，此時位線電路中的開關(guān)打開，脈沖輸入信號在神經(jīng)元的鐵電存儲器中積累電荷，鐵電存儲器中積累的電荷數(shù)量與輸入脈沖個數(shù)和鐵電存儲器本身電容呈正相關(guān)；

在數(shù)據(jù)輸出階段，多路選擇器選通零電平信號，位線電路的開關(guān)關(guān)斷，位線電路的電容積累電荷，其電荷量為該位線上所有鐵電存儲器積累的電荷量的和，其大小與位線電容大小和輸出電壓值正相關(guān)。