[發明專利]人工神經網絡旁路

在審

• 申請號: 202180082068.7
• 申請日: 2021-11-18
• 公開（公告）號: CN116601646A
• 公開（公告）日: 2023-08-15
• 發明（設計）人: S·蒂庫;P·卡利
• 申請（專利權）人: 美光科技公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/048
• 代理公司: 北京律盟知識產權代理有限責任公司 11287
• 代理人: 強薇

設備和方法可與編譯用于實施人工神經網絡(ANN)旁路的指令相關。旁路路徑可用于繞過所述ANN的一部分，以使得所述ANN產生具有特定置信度水平的輸出，同時利用比尚未繞過所述ANN的所述部分的情況更少的資源。編譯器可確定將所述旁路路徑放置在ANN中的何處。

技術領域

本公開大體上涉及存儲器，且更明確地說涉及與實施人工神經網絡旁路相關聯的設備和方法。

背景技術

存儲器裝置通常被提供為計算機或其它電子裝置中的內部半導體集成電路。存在許多不同類型的存儲器，包含易失性和非易失性存儲器。易失性存儲器可能需要電力來維持其數據，且包含隨機存取存儲器(RAM)、動態隨機存取存儲器(DRAM)和同步動態隨機存取存儲器(SDRAM)等等。非易失性存儲器可通過當未被供電時保持所存儲的數據而提供持久的數據，且可包含NAND快閃存儲器、NOR快閃存儲器、只讀存儲器(ROM)、電可擦除可編程ROM(EEPROM)、可擦除可編程ROM(EPROM)以及電阻可變存儲器，例如相變隨機存取存儲器(PCRAM)、電阻性隨機存取存儲器(RRAM)和磁阻隨機存取存儲器(MRAM)等等。

存儲器還用作易失性和非易失性數據存儲裝置以用于廣泛范圍的電子應用，包含但不限于個人計算機、便攜式存儲棒、數碼相機、蜂窩電話、例如MP3播放器等便攜式音樂播放器、電影播放器和其它電子裝置。存儲器單元可布置成陣列，其中所述陣列在存儲器裝置中使用。

附圖說明

圖1是根據本公開的數個實施例的呈包含存儲器裝置的計算系統形式的設備的框圖。

圖2示出根據本公開的數個實施例的具有旁路路徑的人工神經網絡。

圖3示出根據本公開的數個實施例的編譯器。

圖4示出根據本公開的數個實施例的具有多個旁路路徑的人工神經網絡。

圖5示出根據本公開的數個實施例的具有決策節點的人工神經網絡。

圖6示出根據本公開的數個實施例的具有決策節點的人工神經網絡。

圖7示出根據本公開的數個實施例的用于實施在存儲器中實施的人工神經網絡中的旁路路徑的方法的示例流程圖。

圖8示出根據本公開的數個實施例的用于編譯用以實施人工神經網絡中的旁路路徑的指令的方法的示例流程圖。

圖9示出計算機系統的示例機器，可在所述計算機系統內執行一組指令以用于使機器執行本文中所論述的各種方法。

具體實施方式

本公開包含與編譯用于實施人工神經網絡(ANN)旁路的指令有關的設備和方法。可在ANN中實施一或多個旁路路徑以繞過ANN的層。

如本文中所使用，ANN可通過形成輸入與輸出之間的概率權重關聯來提供學習。可通過包括ANN的多個節點提供概率權重關聯。節點與權重、偏置以及激活函數一起可用于基于到ANN的輸入而產生ANN的輸出。可將ANN的多個節點分組以形成ANN的層。

便宜且高效節能的人工智能(AI)加速器(例如，深度學習加速器(DLA))可實施于存儲器裝置的邊緣上且在本文中被稱作“邊緣DLA”。如本文中所使用，存儲器裝置的邊緣可指存儲器裝置的除由存儲器陣列和/或感測電路系統占據的存儲器裝置區域之外的區域。舉例來說，存儲器裝置的邊緣可指存儲器裝置的輸出和/或輸入路徑，其中輸出路徑和/或輸入路徑用于從存儲器裝置的存儲器陣列存儲和/或讀取數據。