[發明專利]一種智能網卡及數據處理系統和方法

在審

• 申請號: 201910099399.6
• 申請日: 2019-01-31
• 公開（公告）號: CN109828940A
• 公開（公告）日: 2019-05-31
• 發明（設計）人: 丁超
• 申請（專利權）人: 鄭州云海信息技術有限公司
• 主分類號: G06F13/40
• 分類號: G06F13/40;G06F13/42
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發明公開了一種智能網卡及數據處理系統和方法，一種智能網卡，包括FPGA芯片，在智能網卡的FPGA芯片上增加一組NVLink接口，NVLink接口與設于智能網卡內的NVLink電纜接口連接器相連。一種數據處理系統，包括GPU和CPU，智能網卡的NVLink電纜接口連接器通過外部電纜與GPU的NVLink接口相連，GPU通過PCIE接口與CPU相連，CPU通過PCIE接口與智能網卡相連。本發明在智能網卡和GPU之間建立NVLink通道，實現網卡接收數據直接發往GPU運算，和GPU運算后的數據直接經網卡對外發送，在特定業務下減少了CPU的參與，增加了CPU的和服務器的利用效率。

技術領域

本發明涉及一種智能網卡及數據處理系統和方法。

背景技術

Smart NIC即智能網卡，其核心是通過FPGA(現場可編程門陣列)協助CPU處理網絡負載，編程網絡接口功能，具有以下特征：

通過FPGA本地化編程支持數據面和控制面功能定制，協助CPU處理網絡負載；

支持快速轉發數據并基于網絡數據包、應用程序套接字等智能映射到到相關應用程序；

支持檢測和管理網絡流量。

GPU就是能夠從硬件上支持幾何處理的顯示芯片。GPU具有如下特點：

1、提供了多核并行計算的基礎結構，且核心數非常多，可以支撐大量數據的并行計算。

2、更高的浮點運算能力。浮點運算能力是關系到處理器的多媒體、3D圖形處理的一個重要指標。

GPU加速計算是指同時利用圖形處理器，加快科學、分析、工程、消費和企業應用程序的運行速度，將應用程序計算密集部分的工作負載轉移到GPU。

NVLink，是英偉達(NVIDIA)開發并推出的一種總線及其通信協議。NVLink采用點對點結構、串列傳輸，用于中央處理器(CPU)與圖形處理器(GPU)之間的連接，也可用于多個圖形處理器之間的相互連接。

如圖1所示，當前智能網卡和GPU之間沒有直接相連的通道，各自通過PCIE接口與CPU相連。從智能網卡輸入的數據需要經過CPU后才能轉交至GPU處理。

發明內容

本發明要解決的技術問題是提出一種智能網卡及數據處理系統和方法，目的在于增加智能網卡至GPU之間的物理通道，將超出智能網卡處理能力的密集計算數據可以直接傳遞至GPU處理，例如網絡上的視頻處理等相關業務，或者把經GPU處理后可以直接發送至網絡接口的數據繞過CPU，以便增強這些場景下的智能網卡+GPU的處理效率并減小延遲，減少CPU的資源消耗以及PCIE帶寬的占用，提升服務器整體性能。

為了解決上述技術問題，本發明一方面提供了一種智能網卡，包括FPGA芯片，在智能網卡的FPGA芯片上增加一組NVLink接口，NVLink接口與設于智能網卡內的NVLink電纜接口連接器相連。

本發明另一發面還提供了一種數據處理系統，包括GPU和CPU，智能網卡的NVLink電纜接口連接器通過外部電纜與GPU的NVLink接口相連，GPU通過PCIE接口與CPU相連，CPU通過PCIE接口與智能網卡相連。

本發明另一發面還提供了一種數據處理方法，包括以下步驟：

數據首次從網絡接口發送到智能網卡，智能網卡發送給CPU；

CPU對數據進行識別，若是數據需要先交由GPU處理，則轉交GPU進行處理，GPU處理后數據返回CPU；

對該類數據進行備案，再有此類數據，則智能網卡直接轉發到GPU處理。

進一步地，所述轉交GPU進行處理具體包括：CPU將數據和處理規則通過GPU的PCIE接口轉交GPU處理。