[發(fā)明專(zhuān)利]用于人工神經(jīng)網(wǎng)絡(luò)的光子張量加速器

在審

• 申請(qǐng)?zhí)枺?/td>: 201980091572.6
• 申請(qǐng)日: 2019-10-15
• 公開(kāi)（公告）號(hào): CN113518986A
• 公開(kāi)（公告）日: 2021-10-19
• 發(fā)明（設(shè)計(jì)）人: 桂芳·李;肖恩·龐;賀·溫
• 申請(qǐng)（專(zhuān)利權(quán)）人: 中佛羅里達(dá)大學(xué)研究基金會(huì)
• 主分類(lèi)號(hào): G06F17/16
• 分類(lèi)號(hào): G06F17/16;G06N3/067;H04J14/00
• 代理公司: 北京北新智誠(chéng)知識(shí)產(chǎn)權(quán)代理有限公司 11100
• 代理人: 王宏偉;陳小鈺

描述了用于矢量?矢量乘法、矩陣?矢量乘法、矩陣?矩陣乘法、批矩陣?矩陣乘法和張量?張量乘法的光子單元。乘法是通過(guò)相干混頻和平方律檢測(cè)進(jìn)行的。有許多維度?波長(zhǎng)、矢量模式、正交和空間的三維?可用于構(gòu)建光子加速器。已編碼的輸入矢量或輸入矩陣扇出為所需數(shù)量的副本，并與包含權(quán)重矢量的相應(yīng)已編碼的本地振蕩器混合，其中所述權(quán)重向量包括權(quán)重矩陣。可以使用兩(三)維的任何子集來(lái)構(gòu)造用于矩陣?矢量(矩陣?矩陣)乘法的光子加速器。可以將多個(gè)維度組合成超維度以增加可擴(kuò)縮性。每個(gè)維度、維度的每個(gè)非重疊子集、或超維度的每個(gè)非重疊子集可以獨(dú)立地用于構(gòu)建用于批矩陣乘法或張量乘法運(yùn)算的光子張量加速器(PTA)。

相關(guān)申請(qǐng)的交叉引用

本申請(qǐng)與2019年5月3日提交的，名稱(chēng)為“用于人工神經(jīng)網(wǎng)絡(luò)的光子張量加速器””的美國(guó)臨時(shí)專(zhuān)利申請(qǐng)No.62/842,771(美國(guó)代理人檔號(hào):UCF34129PROV)相關(guān)，并要求其優(yōu)先權(quán)，該美國(guó)臨時(shí)專(zhuān)利申請(qǐng)被轉(zhuǎn)讓予本案申請(qǐng)人，其中的全部?jī)?nèi)容通過(guò)引用并入本文。

背景技術(shù)

本申請(qǐng)總體上涉及光學(xué)計(jì)算，更具體地涉及用于矢量-矢量、矩陣-矢量、矩陣-矩陣、批(batch)矩陣-矩陣和張量-張量乘法的光子加速。

本申請(qǐng)包括在括號(hào)中用數(shù)字表示的參考文獻(xiàn)，例如[x]，其中x是數(shù)字。參考文獻(xiàn)的數(shù)字列表可在本申請(qǐng)的末尾找到。此外，這些參考文獻(xiàn)在與本案一起提交的信息公開(kāi)聲明(IDS)中列出。這些列出的參考文獻(xiàn)中的每一個(gè)的教導(dǎo)的全部?jī)?nèi)容通過(guò)引用并入本文。

到目前為止，電子學(xué)和光子學(xué)大體上已經(jīng)在信息化社會(huì)中發(fā)揮了各自的技術(shù)作用。由于電子的費(fèi)米子性質(zhì)，電子技術(shù)已經(jīng)主導(dǎo)了信息生成和處理技術(shù)。類(lèi)似地，由于光子的玻色子性質(zhì)，即使在激光和光纖發(fā)明之前電子技術(shù)也主導(dǎo)了通信技術(shù)，但近幾十年來(lái)，光子技術(shù)仍主導(dǎo)著信息傳輸技術(shù)。如長(zhǎng)久以來(lái)所預(yù)期的，根據(jù)摩爾定律，電子集成電路(IC)的處理能力遲早將無(wú)法增長(zhǎng)。這種預(yù)期激發(fā)了光學(xué)和光子學(xué)界在過(guò)去的半個(gè)世紀(jì)中不斷地探索光學(xué)和光子信息處理的問(wèn)題。這些努力包括用于通用光學(xué)計(jì)算的光學(xué)晶體管[1]、[2]和邏輯門(mén)[3]、[4]，以及用于專(zhuān)用信息處理的傅里葉光學(xué)[5]。然而，到了1980年代末，光學(xué)技術(shù)在計(jì)算中的職能被過(guò)譽(yù)的錯(cuò)誤已經(jīng)使該領(lǐng)域倒退了好幾次，并在隨后的二十年中使該領(lǐng)域幾乎處于休眠狀態(tài)[6]。

近年來(lái)，IC確實(shí)地根據(jù)摩爾定律不能維持幾何級(jí)數(shù)的增長(zhǎng)，這主要是因?yàn)榕c增加時(shí)鐘速率所需的小器件相關(guān)的高密度功耗的熱量難以消散。因此，IC在計(jì)算能力方面的擴(kuò)縮性的限制因素不是總功率而是功率密度。在后摩爾定律時(shí)代，行內(nèi)對(duì)擴(kuò)縮性問(wèn)題的解決方案是，與單個(gè)CPU的馮諾依曼結(jié)構(gòu)相比，構(gòu)建具有并行計(jì)算結(jié)構(gòu)和用于特定計(jì)算目的的優(yōu)化本地存儲(chǔ)器的硬件加速器[7]、[8]，例如圖形處理單元(GPU)和張量處理單元(TPU)。受益于這些硬件加速器，基于使用人工神經(jīng)網(wǎng)絡(luò)(ANN)實(shí)現(xiàn)的人工智能(AI)/機(jī)器學(xué)習(xí)(ML)的新應(yīng)用在學(xué)術(shù)界、工業(yè)和一般社會(huì)上的幾乎每個(gè)角落都激增，盡管原始IC的處理能力仍然停滯。

發(fā)明內(nèi)容

本發(fā)明是一種用于矢量-矢量乘法、矩陣-矢量乘法、矩陣-矩陣乘法、批矩陣-矩陣乘法和張量-張量乘法的光子單元。在矢量-矢量相乘的情況下，光子設(shè)備包括第一光多路復(fù)用器，其接收代表第一矢量的第一光信號(hào)，其中，第一矢量中的每個(gè)元素在光的第一自由度(DOF)/維度上被編碼，并且在一個(gè)乘法周期中是非時(shí)間的，以產(chǎn)生第一多路復(fù)用光信號(hào)。光子單元包括第二光多路復(fù)用器，其接收與第一光信號(hào)相干(coherent)的第二光信號(hào)，第二光信號(hào)表示第二矢量，其中第二矢量中的每個(gè)元素，以與映射為第一矢量相同的光映射的元素-正交自由度(DOF)/維度被編碼，以產(chǎn)生第二多路復(fù)用光信號(hào)。光子單元還包括光束組合器，其接收來(lái)自第一光多路復(fù)用器的第一多路復(fù)用光信號(hào)和來(lái)自第二光多路復(fù)用器的第二多路復(fù)用光信號(hào)，以便將它們組合以在第一光信號(hào)和第二光信號(hào)之間產(chǎn)生干涉，該干涉包含第一矢量和第二矢量在總干涉強(qiáng)度中的相乘結(jié)果。這種累加不需要整個(gè)DOF，而是需要DOF中尚未用于編碼的特定點(diǎn)或參數(shù)。