[發明專利]用于神經網絡和邏輯推理的可擴展及實時可重構硬件

在審

• 申請號: 201811318326.3
• 申請日: 2018-11-07
• 公開（公告）號: CN110020722A
• 公開（公告）日: 2019-07-16
• 發明（設計）人: 梁平;B·梁
• 申請（專利權）人: 梁平
• 主分類號: G06N3/06
• 分類號: G06N3/06
• 代理公司: 北京市正見永申律師事務所 11497
• 代理人: 黃小臨

本發明提出一種可縮放現場可重構學習網絡以及被重構以匹配所選擇的深層學習神經網絡的架構或處理流程并且非常適于組合神經網絡學習和邏輯推理的機器智能系統。其將所選擇的學習網絡的N個層、簇或階段劃分為具有與多個現場可重構處理模塊的部分間連接的多個部分。該部分間連接被配置到現場可重構處理以及互聯模塊中。多個現場可重構學習網絡可以被互聯以產生更大規?，F場可重構學習網絡，并且能夠被連接到因特網以提供現場可重構學習網絡云服務。

技術領域

本發明涉及現場可重構神經網絡(field-reconfigurable neural network)以及機器智能系統，尤其涉及可擴展及現場可重構的用于神經網絡的硬件系統，以與神經網絡和邏輯推理的結構和處理流程匹配。

背景技術

將神經網絡用于機器學習、訓練以及推理有兩個階段。在訓練階段，計算引擎需要能夠快速處理大量訓練例子，因此既需要快速處理也需要快速I/O。在推理階段，計算引擎需要在多個應用中實時地接收輸入數據并處理推理結果。在兩個階段，計算引擎需要被配置以執行與學習任務最合適的不同的神經網絡架構，例如，用于人臉識別、語音識別、手寫識別、玩游戲或控制無人機等，每個都可能需要不同的神經網絡架構，或結構和處理流程，例如，玩家數目、在每個玩家的節點數目、玩家之間的互聯、在每個玩家執行的處理的類型等。使用GPU、FPGA或ASIC的用于神經網絡的現有技術計算引擎缺乏本發明所提供的子引擎互聯的高處理功率、擴展性、靈活性，以及實時配置性。

在2016年關于微架構的IEEE/ACM國際學會第49界年會上由微軟公司的發表的“ACloud-Scale Acceleration Architecture(云規模加速架構)描述了一種架構，其在服務器的網絡接口卡(NIC)和以太網開關之間設置了FPGA的層。其將單個FPGA與服務器CPU連接，并且通過多大三層的以太開關將很多FPGA連接。其主要優勢在于提供通用目的云計算服務，允許FPGA以線路速率來轉換網絡流，并且對每個服務器上運行的本地應用進行加速。其允許大量FPGA進行通信，然而，FPGA之間的連接需要經過一個或多個級別的以太開關，并且需要網絡操作系統協調連接到每個FPGA的CPU。對于單一CPU，聯合處理功率受限于CPU上安裝的單個FPGA的尺寸和處理速度。由于數據中心中的以太開關網絡上的其他數據通信的競爭，整體性能以及FPGA與FPGA通信延遲將嚴重依賴于該多層以太開關的效率和不確定性，并且，依賴于網絡操作系統管理、請求、釋放以及獲取在大量其他CPU或服務器的FPGA資源時的效率。也有這樣的現有技術，其將多個FPGA或GPU通過CPU或外圍總線連接到服務器，例如，PCIe總線。一個服務器的FPGA或GPU與另一服務器的FPGA或GPU之間沒有直接連接。需要大量FPGA的大型神經網絡需要包括多個服務器以及他們的上層軟件開銷和延遲。

發明內容

本發明在重構和映射可配置硬件上提供顯著的優勢，以適宜地匹配寬范圍的神經網絡的結構和處理流程，此外，克服上述現有技術中的缺點。

附圖說明

圖1表示現場可重構學習網絡的架構。

圖2表示被重構以實施多層深度學習神經網絡的現場可重構學習網絡。

圖3表示被重構以同時實施兩個多層神經網絡的現場可重構學習網絡。

圖4表示被重構以同時實施兩個合作多層神經網絡以及高層學習網絡的現場可重構學習網絡。

圖5表示被互聯以形成更大現場可重構學習網絡的四個現場可重構學習網絡。

具體實施方式