[發明專利]一種路由器和片上網絡傳輸系統及方法

有效

• 申請號: 201711026269.7
• 申請日: 2017-10-27
• 公開（公告）號: CN107800700B
• 公開（公告）日: 2020-10-27
• 發明（設計）人: 韓銀和;許浩博;王穎
• 申請（專利權）人: 中國科學院計算技術研究所
• 主分類號: H04L29/06
• 分類號: H04L29/06;H04L29/08;H04L12/865
• 代理公司: 北京泛華偉業知識產權代理有限公司 11280
• 代理人: 王勇

本發明涉及一種路由器，包括控制單元，用于控制所述路由器；緩存，用于將接收的數據包輸出至所述交叉開關；交叉開關，用于將接收的數據包路由到相應的輸出端口；壓縮器，用于對接收的數據包進行壓縮，并將壓縮后的數據包返回至所述緩存；以及解壓縮器，用于對接收的數據包解壓縮，并將解壓縮后的數據包返回至相應的輸出端口。

技術領域

本發明涉及神經網絡領域，特別涉及一種路由器和片上網絡傳輸系統及方法。

背景技術

神經網絡作為一種模擬人腦的機器學習技術一直都是人工智能研究領域的熱點，并且在眾多領域得到了廣泛的應用，例如圖像識別、自然語言理解等。近年來，利用深度學習獲得的深度神經網絡發展迅速，這種運算模型，通常包含大量的互相連接的數據節點，其連接關系通常使用權重進行表示。

隨著深度神經網絡規模的擴大，對網絡模型的計算速度要求也越來越高，采用硬件加速替代傳統軟件計算的方式成為提高效率的有效方式之一，例如，采用多運算核心進行并行運算，但是由于數據過于龐大，沉重的傳輸負擔通常會導致延時，使得系統性能整體下降。

因此，需要一種能夠提高傳輸效率的路由器和適用于神經網絡的片上網絡傳輸系統及方法。

發明內容

本發明提供一種路由器，包括控制單元，用于控制所述路由器；緩存，用于將接收的數據包輸出至交叉開關；交叉開關，用于將接收的數據包路由到相應的輸出端口；壓縮器，用于對接收的數據包進行壓縮，并將壓縮后的數據包返回至所述緩存；以及解壓縮器，用于對接收的數據包解壓縮，并將解壓縮后的數據包返回至相應的輸出端口。

優選的，所述緩存包括通道選擇器和虛通道，所述控制單元控制所述通道選擇器為輸入至所述路由器的數據包分配所述虛通道；所述交叉開關包括端口選擇器，所述控制單元控制所述端口選擇器為輸入至所述交叉開關的數據包分配輸出端口。

優選的，所述控制單元根據所述虛通道和輸出端口的占用情況，判斷從本地輸入至所述路由器的數據包是否為空閑數據包。

優選的，所述控制單元根據當前路由器中緩存隊列的空閑值對所述空閑數據包進行壓縮優先級排序。

優選的，若所述空閑值一致，則根據與當前路由臨近的路由下一跳的緩存隊列空閑值來進行壓縮優先級排序。

優選的，所述控制單元根據預設的空閑閾值進行仲裁；若所述空閑數據包相關聯的所述空閑值低于該空閑閾值，則控制所述壓縮器對數據包進行壓縮；若所述空閑數據包的空閑值不低于該空閑閾值，則將所述空閑數據包直接返回至所述緩存。

優選的，所述壓縮器采用基于步進的壓縮方式對數據包進行壓縮。

優選的，若輸入至所述交叉開關的數據包是提供給本地使用的壓縮后的數據包，所述控制單元將控制所述端口選擇器將所述壓縮后的數據包傳輸至所述解壓縮器進行解壓縮，之后返回至所述端口選擇器；若輸入至所述交叉開關的數據包是經所述路由器路由至外部的，所述控制單元將控制所述端口選擇器直接為所述數據包分配輸出端口。

根據本發明的另一個方面，還提供一種片上網絡傳輸系統，包括多個如上所述的路由器。

根據本發明的另一個方面，還提供一種多核神經網絡處理器，包括多個計算核心，所述計算核心之間采用了如上所述的片上網絡傳輸系統進行數據傳輸。

優選的，基于圖層大小將數據分散存儲至所述多個計算核心；或者基于輸入/輸出網絡將數據分散存儲至所述多個計算核心；或者基于圖層大小和輸入/輸出網絡相結合的方式將數據分散存儲至所述多個計算核心。

根據本發明的另一個方面，還提供一種用于路由器的數據壓縮方法，包括以下步驟：

將本地輸入至所述路由器的數據包分通道暫存入緩存；