[發明專利]一種人工智能芯片、數據傳輸方法及數據傳輸系統

有效

• 申請號: 202310877938.0
• 申請日: 2023-07-18
• 公開（公告）號: CN116614433B
• 公開（公告）日: 2023-10-24
• 發明（設計）人: 李曉帥;王夢嘉;趙鵬程;王煇;嚴涵;華孫山;劉靜雯
• 申請（專利權）人: 太初（無錫）電子科技有限公司
• 主分類號: H04L45/00
• 分類號: H04L45/00;H04L41/16
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 岳曉萍

本發明公開了一種人工智能芯片、數據傳輸方法及數據傳輸系統，涉及芯片技術領域，該芯片包括：控制引擎模塊，用于將待搬運的第一目標數據組裝得到至少一個第一數據包，并將至少一個第一數據包發送給路由功能模塊；其中，第一數據包附加有第一目標地址；路由功能模塊，用于根據與當前數據傳輸模式匹配的路由策略，在全部通信接口中確定至少一個第一通信接口，并通過第一通信接口發出第一數據包。本發明實施例的技術方案，使得AI芯片本身具備了路由轉發功能，進而以多樣化網絡模式互聯的AI芯片可以滿足不同業務場景下的數據搬運需求，避免了構建數據傳輸系統時對數據交換芯片的依賴，提高了構建完成的數據傳輸系統的數據搬運速度。

技術領域

本發明涉及芯片技術領域，尤其涉及一種人工智能芯片、數據傳輸方法及數據傳輸系統。

背景技術

隨著多節點大規模并行計算需求的產生，AI（Artificial?Intelligence，人工智能）芯片之間的高速互聯通信，成為了芯片技術領域的重要研究課題。

傳統的AI芯片的互聯方案如圖1所示，一個中央處理器下的各個AI芯片，通過PCIe（peripheral?component?interconnect?express，高速串行計算機擴展總線標準）總線的Switch（轉換）芯片連接；如圖2所示，英偉達（NVIDIA）也提供了基于專用轉換芯片（即NV_Switch芯片）的互聯方案；如圖3所示，寒武紀提供一種基于MLU-Link橋接卡的8芯片互聯方案。

然而，圖1所示的互聯方案，受限于PCIe總線協議以及PCIe拓撲結構的限制，數據帶寬往往無法滿足實際的負載需求；而圖2所示的互聯方式，同樣需要配置專用轉換芯片，不但需要耗費較高的硬件成本，而且大部分芯片系統的互聯規模達不到上述規模，常常發生芯片功能冗余現象；圖3所示的互聯規模只能在8芯片以內，擴展性不足，進而影響芯片系統的性能。

發明內容

本發明提供了一種人工智能芯片、數據傳輸方法及數據傳輸系統，以解決人工智能芯片在構建大規模網絡時對數據交換芯片的依賴問題。

根據本發明的一方面，提供了一種人工智能芯片，包括：控制引擎模塊、路由功能模塊以及用于與其他硬件設備互聯的多個通信接口；

所述控制引擎模塊，用于將待搬運的第一目標數據組裝得到至少一個第一數據包，并將所述至少一個第一數據包發送給所述路由功能模塊；其中，所述第一數據包附加有第一目標地址；

所述路由功能模塊，用于根據與當前數據傳輸模式匹配的路由策略，在全部通信接口中確定至少一個第一通信接口，并通過所述第一通信接口發出所述第一數據包。

根據本發明的另一方面，提供了一種數據傳輸方法，應用于本發明任一實施例所述的人工智能芯片，包括：

控制引擎模塊將待搬運的第一目標數據組裝得到至少一個第一數據包，并將所述至少一個第一數據包發送給路由功能模塊；其中，所述第一數據包附加有第一目標地址；

所述路由功能模塊基于交叉開關矩陣模式，通過擁塞算法獲取匹配的至少一個第一通信接口，并通過所述第一通信接口發出所述第一數據包。

根據本發明的另一方面，提供了一種數據傳輸方法，應用于本發明任一實施例所述的人工智能芯片，包括：

控制引擎模塊將待搬運的第一目標數據組裝得到至少一個第一數據包，并將所述至少一個第一數據包發送給路由功能模塊；其中，所述第一數據包附加有第一目標地址；

所述路由功能模塊基于無線網絡網格模式，根據所述第一目標地址和當前人工智能芯片的地址信息獲取第一傳輸路徑，并獲取所述第一傳輸路徑中第一相鄰人工智能芯片對應的第一通信接口；

所述路由功能模塊通過所述第一通信接口向所述第一相鄰人工智能芯片發出所述第一數據包。