[發明專利]可重新配置專用計算機加速器

在審

• 申請號: 201780084864.8
• 申請日: 2017-12-11
• 公開（公告）號: CN110214309A
• 公開（公告）日: 2019-09-06
• 發明（設計）人: 卡西克揚·桑卡拉林甘;安東尼·諾瓦茨基;維奈·甘加達爾
• 申請（專利權）人: 威斯康星校友研究基金會
• 主分類號: G06F9/30
• 分類號: G06F9/30
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 高巖;楊林森

用于計算機的可重新配置硬件加速器將高速數據流處理器與流處理器相結合，高速數據流處理器具有在可編程開關的網絡中快速重新配置的可編程功能單元，流處理器可以在接收簡單的流指令之后以預定義訪問模式自主訪問存儲器。結果是可以利用與易被加速的許多專用程序相關聯的并行性的緊湊高速的處理器。

關于聯邦政府資助研究或開發的聲明

相關申請的交叉引用

本申請要求于2017年1月26日提交的美國非臨時申請15/416,670的權益，并且通過引用將其并入本文。

背景技術

本發明涉及電子計算機架構，并且特別地涉及可以針對不同應用重新配置的專用計算機加速器。

對提高計算機處理速度和提高能量效率的需求推動了數據并行架構的發展，例如，對于許多應用而言可以取代通用馮諾依曼體系結構(VonNeuman)型處理器的通用圖形處理單元(GPGPU)機器以及單指令多數據(SIMD)機器。對于要求甚至更高的應用例如機器學習和計算機視覺，可以用專用加速器(例如，用于數據中心的微軟彈射器FPGA加速器，以及用于分布式機器學習的谷歌張量處理單元)取代這些通用數據并行架構。這些專用加速器通常與通用高性能馮諾依曼體系結構處理器配合使用，例如，以實現包括亂序執行和推測執行的高級架構特征。

在這些專用加速器中使用的專用硬件不利地影響新處理算法的實現。這是因為在加速器的專用硬件上執行的新算法通常需要對新架構進行昂貴的重新設計和驗證。另外，專用加速器的狹窄功能限制了專用加速器在必須實現多種應用的計算機系統中的價值。最后，就這樣的專用加速器針對利基市場而言，專用加速器可能不會引起諸如促進這些架構的分析和改進的學術興趣。

發明內容

本發明人已認識到，盡管專用加速器多種多樣，但是專用加速器執行的軟件存在某些共同特征。具體地，由專用加速器執行的軟件往往具有簡單的存儲器和重用模式以及長階段的高計算強度。這又表明，通過將可以自動處理簡單存儲器訪問模式的流處理器與用于處理計算強度的快速有效的處理器結合，可以構造“通用”專用加速器。該后一處理要求可以通過適于快速重新配置的數據流處理器來滿足。其結果是與專用加速器一樣好同時避免了與專用硬件相關聯的缺點的通用加速器。

因此，在一個實施方式中，本發明提供了一種可重新配置加速器架構，包括：(1)微控制器，其適于接收指令和數據以控制加速器的其他部件；(2)流處理器，其從微控制器接收指令，以根據選擇的一組預定義存儲器訪問模式自主讀取存儲在存儲器中的多個輸入值，并且根據選擇的一組預定義存儲器訪問模式將多個輸出值從加速器自主寫入存儲器；以及(3)可重新配置數據流處理器，其由微控制器配置以接收多個輸入值以基于該配置提供輸出值。

因此，本發明的至少一個實施方式的特征是在可以實現許多專用加速器的功能的可重新配置加速器中實現固定專用加速器的公共功能。當前模擬表明，本發明的架構可以匹配專用加速器的性能，在功耗和電路面積可容許地小幅增加的情況下提供通用性的優點。

可重新配置數據流處理器可以在接收輸入值的輸入端口與提供輸出值的輸出端口之間的網格中提供與功能單元互連的一組可編程開關，功能單元提供可選擇的多個算術功能，網格提供由開關編程確定的從輸入端口通過功能單元到輸出端口的路徑。

因此，本發明的至少一個實施方式的特征是提供高速數據流處理器，其速度與固定用途加速器的速度相當，并且還可以例如通過使用設置開關和配置功能單元的映像文件快速地重新再編程。

網格可以提供開關與功能單元之間的直接互連以及開關之間的直接互連。

因此，本發明的至少一個實施方式的特征是提供通用網格，其可以與功能單元互連以及繞過功能單元。

網格可以在開關之間以及開關與功能單元之間提供至少32個并行數據線，例如多達64個并行數據線。