[發(fā)明專(zhuān)利]一種實(shí)現(xiàn)光學(xué)神經(jīng)網(wǎng)絡(luò)的方法及系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 202110953092.5
• 申請(qǐng)日: 2021-08-19
• 公開(kāi)（公告）號(hào): CN113657588B
• 公開(kāi)（公告）日: 2023-08-18
• 發(fā)明（設(shè)計(jì)）人: 吳睿振;王凜;陳靜靜;黃萍
• 申請(qǐng)（專(zhuān)利權(quán)）人: 山東云海國(guó)創(chuàng)云計(jì)算裝備產(chǎn)業(yè)創(chuàng)新中心有限公司
• 主分類(lèi)號(hào): G06N3/067
• 分類(lèi)號(hào): G06N3/067;G06N3/0464;G06N3/048;G06E1/04
• 代理公司: 北京連和連知識(shí)產(chǎn)權(quán)代理有限公司 11278
• 代理人: 劉小峰;楊帆

本發(fā)明公開(kāi)了一種實(shí)現(xiàn)光學(xué)神經(jīng)網(wǎng)絡(luò)的方法及系統(tǒng)，方法包括：獲取三角函數(shù)的第一擬合函數(shù)；構(gòu)建所述第一擬合函數(shù)的光電轉(zhuǎn)換結(jié)構(gòu)；基于所述光電轉(zhuǎn)換結(jié)構(gòu)和所述第一擬合函數(shù)得到第二擬合函數(shù)；基于所述第一擬合函數(shù)和所述第二擬合函數(shù)構(gòu)建所述第二擬合函數(shù)的乘加結(jié)構(gòu)；將所述乘加結(jié)構(gòu)和所述光電轉(zhuǎn)換結(jié)構(gòu)連接得到光學(xué)神經(jīng)網(wǎng)絡(luò)的卷積計(jì)算結(jié)構(gòu)以實(shí)現(xiàn)光學(xué)神經(jīng)網(wǎng)絡(luò)。通過(guò)本發(fā)明的方案，減少了光電轉(zhuǎn)換，提高了運(yùn)算速度，實(shí)現(xiàn)了全光神經(jīng)網(wǎng)絡(luò)的卷積運(yùn)算。

技術(shù)領(lǐng)域

本發(fā)明涉及光學(xué)神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域，尤其涉及一種實(shí)現(xiàn)光學(xué)神經(jīng)網(wǎng)絡(luò)的方法及系統(tǒng)。

背景技術(shù)

通過(guò)MZI(Mach–Zehnder?interferometer，馬赫曾德?tīng)柛缮鎯x)實(shí)現(xiàn)光運(yùn)算的方式具有易于控制的特點(diǎn)，是現(xiàn)今工業(yè)界采用最多的方法，而相應(yīng)的基于MZI實(shí)現(xiàn)ONN(opticalneural?network，光學(xué)神經(jīng)網(wǎng)絡(luò))中卷積運(yùn)算是其中的研究熱點(diǎn)。但是現(xiàn)有技術(shù)中都是使用MZI去做ANN(Artificial?Neural?Network，人工神經(jīng)網(wǎng)絡(luò))中的卷積(乘加)運(yùn)算，在人工神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型中，數(shù)據(jù)一般以二進(jìn)制串的形式表示，利用二進(jìn)制串表示的數(shù)字是離散的，例如整數(shù)或浮點(diǎn)值；在光學(xué)神經(jīng)網(wǎng)絡(luò)中，數(shù)據(jù)是通過(guò)調(diào)制激光脈沖的振幅(或相位)來(lái)進(jìn)行編碼的，產(chǎn)生的是連續(xù)實(shí)數(shù)值，改變光場(chǎng)的強(qiáng)度或相位會(huì)改變所表示的實(shí)數(shù)，因此對(duì)于光學(xué)運(yùn)算還需要將光信號(hào)轉(zhuǎn)化為電信號(hào)，在計(jì)算機(jī)中執(zhí)行，這樣的實(shí)現(xiàn)方式極大的限制了運(yùn)算的速度和性能。在數(shù)學(xué)模型上，利用可編程移相器、馬赫曾德?tīng)柛缮鎯x等結(jié)構(gòu)，可以使用奇異值分解的方式實(shí)現(xiàn)任意維度的矩陣乘法運(yùn)算，奇異值分解是一種重要的矩陣分解方式，同時(shí)也是機(jī)器學(xué)習(xí)中常用的算法之一，在提取特征、簡(jiǎn)化數(shù)據(jù)、推薦系統(tǒng)中應(yīng)用廣泛，因此光學(xué)神經(jīng)網(wǎng)絡(luò)中的數(shù)學(xué)模型上任意維度的實(shí)數(shù)矩陣都可以通過(guò)奇異值分解的方法分解為三個(gè)矩陣的積，通過(guò)MZI連接架構(gòu)實(shí)現(xiàn)。但是這種實(shí)現(xiàn)針對(duì)的是線性乘加運(yùn)算，對(duì)于非線性的乘加運(yùn)算普通的MZI連接架構(gòu)是無(wú)法實(shí)現(xiàn)的，并且每次光電轉(zhuǎn)換都會(huì)涉及很多損耗，這也是一直困擾光學(xué)神經(jīng)網(wǎng)絡(luò)卷積運(yùn)算的主要問(wèn)題。

發(fā)明內(nèi)容

有鑒于此，本發(fā)明提出了一種實(shí)現(xiàn)光學(xué)神經(jīng)網(wǎng)絡(luò)的方法及系統(tǒng)，減少了光電轉(zhuǎn)換次數(shù)，提高了運(yùn)算速度，實(shí)現(xiàn)了全光神經(jīng)網(wǎng)絡(luò)的卷積運(yùn)算。

基于上述目的，本發(fā)明實(shí)施例的一方面提供了一種實(shí)現(xiàn)光學(xué)神經(jīng)網(wǎng)絡(luò)的方法，具體包括如下步驟：

獲取三角函數(shù)的第一擬合函數(shù)；

構(gòu)建所述第一擬合函數(shù)的光電轉(zhuǎn)換結(jié)構(gòu)；

基于所述光電轉(zhuǎn)換結(jié)構(gòu)和所述第一擬合函數(shù)得到第二擬合函數(shù)；

基于所述第一擬合函數(shù)和所述第二擬合函數(shù)構(gòu)建所述第二擬合函數(shù)的乘加結(jié)構(gòu)；

將所述乘加結(jié)構(gòu)和所述光電轉(zhuǎn)換結(jié)構(gòu)連接得到光學(xué)神經(jīng)網(wǎng)絡(luò)的卷積計(jì)算結(jié)構(gòu)以實(shí)現(xiàn)光學(xué)神經(jīng)網(wǎng)絡(luò)。

在一些實(shí)施方式中，所述三角函數(shù)為tanh激活函數(shù)、第一擬合函數(shù)為第一tanh擬合函數(shù)、第二擬合函數(shù)為第二tanh擬合函數(shù)。

在一些實(shí)施方式中，獲取三角函數(shù)的第一擬合函數(shù)，包括：

基于tanh激活函數(shù)獲取所述tanh激活函數(shù)的第一tanh擬合函數(shù)。

在一些實(shí)施方式中，基于tanh激活函數(shù)獲取所述tanh激活函數(shù)的第一tanh擬合函數(shù)，包括：

對(duì)所述tanh激活函數(shù)進(jìn)行泰勒展開(kāi)，得到擬合曲線最接近tanh激活函數(shù)的曲線的第一tanh擬合函數(shù)，所述第一tanh擬合函數(shù)的表達(dá)式為：y＝0.0075x⁵-0.1248x³+0.8679x。

在一些實(shí)施方式中，構(gòu)建所述第一擬合函數(shù)的光電轉(zhuǎn)換結(jié)構(gòu)，包括：

基于馬赫曾德?tīng)柛缮鎯x結(jié)構(gòu)構(gòu)建所述第一tanh擬合函數(shù)的光電轉(zhuǎn)換結(jié)構(gòu)。