[發明專利]芯片、及在芯片內建立數據路徑的方法

在審

• 申請號: 201911089159.4
• 申請日: 2019-11-08
• 公開（公告）號: CN110866599A
• 公開（公告）日: 2020-03-06
• 發明（設計）人: 譚經綸
• 申請（專利權）人: 芯盟科技有限公司;浙江清華長三角研究院
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 陸磊

本申請實施例提供一種芯片及在芯片內建立數據路徑的方法。該芯片包括多個集成處理設備；互聯網絡，其適于互聯多個集成處理設備，并且包括設置于多個集成處理設備中相鄰集成處理設備之間的可配置路徑單元，可配置路徑單元適于接收來自集成處理設備和轉發至集成處理設備的數據；控制單元，其適于基于芯片在不同應用中運行參數的特定需求級別而選擇性地配置可配置路徑單元以在多個集成處理設備中的兩個集成處理設備之間建立數據路徑。本申請實施例的技術方案可以在芯片級別動態地配置數據路徑，這有益于提高計算效率和降低芯片功耗等。

技術領域

本發明涉及芯片領域，尤其涉及芯片及在芯片內建立數據路徑的方法。

背景技術

芯片的應用越來越廣泛，例如，隨著神經網絡技術的發展，人工智能(ArtificialIntelligence，簡稱為“AI”)芯片需要更加強大的算力，這可以通過在AI芯片上增加更多的計算元件來實現，而更多的計算元件需要大量的數據來計算。

單位時間進入到計算單元中的數據量稱為帶寬，帶寬會限制AI芯片的實際性能。對于每一個AI芯片架構，一個大的挑戰是如何確保足夠的帶寬以使得數據能夠被及時地提供到計算單元。通常，在AI架構內，到計算單元的數據路徑是固定的；有兩條進入到計算單元的數據路徑，每條數據路徑都向乘法器提供數據(該數據稱為乘法器的操作數)。其缺點是，數據路徑會固定用于AI芯片架構下的所有神經網絡場景，其中兩條數據路徑的帶寬限制了計算單元的效率。

為了提高效率，布置計算單元以最大化地重復利用從兩條數據路徑進入到計算單元中的數據。但是，重復利用用于多種計算的數據固定了獲取這些數據的操作，這限制了操作的靈活性。

發明內容

本發明解決的技術問題是計算單元操作的靈活性受到了限制等。

為解決上述技術問題，本發明實施例提供一種芯片，包括多個集成處理設備；互聯網絡，其適于互聯多個集成處理設備，并且包括設置于多個集成處理設備中相鄰集成處理設備之間的可配置路徑單元，可配置路徑單元適于接收來自集成處理設備和轉發至集成處理設備的數據；控制單元，其適于基于芯片在不同應用中運行參數的特定需求級別而選擇性地配置可配置路徑單元以在多個集成處理設備中的兩個集成處理設備之間建立數據路徑。

可選地，兩個集成處理設備包括用于接收數據的源集成處理設備和用于發送數據的目的集成處理設備，控制單元適于確定源集成處理設備并且基于源集成處理設備確定目的集成處理設備。

可選地，多個集成處理設備中的每個集成處理設備都包括計算單元，數據路徑適于傳輸用于計算單元計算的操作數或者用于組合操作數的數據。

可選地，還包括接口模塊，其適于將來自于集成處理設備的計算數據封裝成可配置路徑單元可以處理的傳輸數據并且將來自于可配置路徑單元的傳輸數據解封裝成集成處理設備可以處理的計算數據。

可選地，可配置路徑單元適于基于網絡層協議或者數據鏈路層協議接收來自和轉發至集成處理設備的數據。

可選地，控制單元適于將芯片的特定需求級別發送到可配置路徑單元，可配置路徑單元包括配置信息或者轉發策略并且適于接收特定需求級別、以及基于特定需求級別而選擇配置信息中預設的特定路徑或者根據轉發策略確定的特定路徑以在兩個集成處理設備之間建立數據路徑。

可選地，芯片在不同應用中運行參數的特定需求級別為芯片在神經網絡的不同應用中數據傳輸時間的高需求級別、數據傳輸時間的低需求級別、芯片運行功率的高需求級別、芯片運行功率的低需求級別、網絡擁塞控制的高需求級別、或者網絡擁塞控制的低需求級別。