[發明專利]芯片、集成處理設備及其操作方法

有效

• 申請號: 201911024343.0
• 申請日: 2019-10-25
• 公開（公告）號: CN110647984B
• 公開（公告）日: 2022-07-12
• 發明（設計）人: 譚經綸
• 申請（專利權）人: 芯盟科技有限公司;浙江清華長三角研究院
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F7/523;G06F15/78
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 陸磊

本申請實施例提供一種芯片、集成處理設備及其操作方法。該集成處理設備包括計算單元、耦接于計算單元的第一存儲單元和第二存儲單元；其中，計算單元適于基于集成處理設備在芯片的不同應用中運行參數的不同需求級別而選擇性地從第一存儲單元、第二存儲單元和位于集成處理設備外部的外部數據源這三者中的二者分別接收操作數，外部數據源存儲芯片上多個集成處理設備均可使用的操作數。本申請實施例可以滿足集成處理設備中相關運行參數的實現需求，還可以最大化地利用集成處理設備的計算能力。

技術領域

本發明涉及芯片領域，尤其涉及芯片、集成處理設備及其操作方法。

背景技術

芯片的應用越來越廣泛，例如，隨著神經網絡技術的發展，人工智能(ArtificialIntelligence，簡稱為“AI”)芯片需要更加強大的算力，這可以通過在AI芯片上增加更多的計算元件來實現，而更多的計算元件需要大量的數據來計算。

單位時間進入到計算單元中的數據量稱為帶寬，帶寬會限制AI芯片的實際性能。對于每一個AI芯片架構，一個大的挑戰是如何確保足夠的帶寬以使得數據能夠被及時地提供到計算單元。通常，在AI架構內，到計算單元的數據通道是固定的；有兩條進入到計算單元的數據通道，每條數據通道都向乘法器提供數據(該數據稱為乘法器的操作數)。其缺點是，數據通道會固定用于AI芯片架構下的所有神經網絡場景，其中兩條數據通道的帶寬限制了計算單元的效率。

為了提高效率，布置計算單元以最大化地重復利用從兩條數據通道進入到計算單元中的數據。但是，重復利用用于多種計算的數據固定了獲取這些數據的操作，這限制了操作的靈活性。

發明內容

本發明解決的技術問題是計算單元操作的靈活性受到了限制等。

為解決上述技術問題，本發明實施例提供一種位于芯片上的集成處理設備，包括計算單元、耦接于計算單元的第一存儲單元和第二存儲單元；其中，計算單元適于基于集成處理設備在芯片的不同應用中運行參數的不同需求級別而選擇性地從第一存儲單元、第二存儲單元和位于集成處理設備外部的外部數據源這三者中的二者分別接收操作數，外部數據源存儲芯片上多個集成處理設備均可使用的操作數。

可選地，芯片適于應用于不同的神經網絡，運行參數為帶寬，計算單元適于基于集成處理設備在不同神經網絡的應用中帶寬的不同需求級別而選擇性地從第一存儲單元、第二存儲單元和外部數據源這三者中的二者分別接收操作數。

可選地，計算單元適于基于集成處理設備在神經網絡的應用中帶寬的低需求級別而從第一存儲單元和第二存儲單元分別接收操作數。

可選地，計算單元適于基于集成處理設備在神經網絡的應用中帶寬的高需求級別而從第一存儲單元和第二存儲單元中的一者、以及外部數據源分別接收操作數。

可選地，芯片適于應用于不同的神經網絡，運行參數為運行功率，計算單元適于基于集成處理設備在不同神經網絡的應用中運行功率的不同需求級別而選擇性地從第一存儲單元、第二存儲單元和外部數據源這三者中的二者分別接收操作數。

可選地，計算單元適于基于集成處理設備在神經網絡的應用中運行功率的低需求級別而從第一存儲單元和第二存儲單元分別接收操作數。

可選地，計算單元適于基于集成處理設備在神經網絡的應用中運行功率的高需求級別而從第一存儲單元和第二存儲單元中的一者、以及外部數據源分別接收操作數。

可選地，芯片適于應用于不同的神經網絡，運行參數為數據獨立性，計算單元適于基于集成處理設備在不同神經網絡的應用中數據獨立性的不同需求級別而選擇性地從第一存儲單元、第二存儲單元和外部數據源這三者中的二者分別接收操作數。

可選地，計算單元適于基于集成處理設備在神經網絡的應用中數據獨立性的高需求級別而從第一存儲單元和第二存儲單元分別接收操作數。