[發明專利]一種數據處理方法及相關產品

有效

• 申請號: 202010120608.3
• 申請日: 2020-02-26
• 公開（公告）號: CN111242321B
• 公開（公告）日: 2023-09-26
• 發明（設計）人: 請求不公布姓名
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N3/063
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種數據處理方法，其特征在于，所述數據處理方法包括：

讀取離線運行文件集合；其中，所述離線運行文件集合是根據運行結果滿足預設要求時對應的端側人工智能處理器的硬件架構信息、訪存帶寬和二進制指令確定的離線運行文件構成的；

對所述離線運行文件集合進行解析，獲得離線運行文件映射表；其中，所述離線運行文件映射表是同一端側人工智能處理器的硬件架構信息所對應的訪存帶寬與所述離線運行文件之間的對應關系；

根據所述端側人工智能處理器工作負荷情況，確定當前訪存帶寬；基于當前訪存帶寬從所述離線運行文件映射表中確定需執行的當前離線運行文件；

執行當前離線運行文件。

2.如權利要求1所述的方法，其特征在于，所述離線運行文件映射表的獲得步驟包括：

通用處理器獲取端側人工智能處理器的硬件架構信息以及對應的可配置的訪存帶寬，根據所述端側人工智能處理器的硬件架構信息以及對應的訪存帶寬生成對應的二進制指令；其中，訪存帶寬為端側人工智能處理器到片外存儲器的訪存寬度；

所述通用處理器根據所述二進制指令生成對應的人工智能學習任務，將所述人工智能學習任務發送至云側人工智能處理器上運行；

所述云側人工智能處理器接收人工智能學習任務，執行所述人工智能學習任務，生成運行結果；

所述通用處理器接收所述人工智能學習任務對應的運行結果，根據所述運行結果確定所述訪存帶寬對應的離線運行文件；

所述通用處理器根據同一端側人工智能處理器的不同的訪存帶寬對應的離線運行文件確定離線運行文件映射表。

3.如權利要求2所述的方法，其特征在于，根據所述端側人工智能處理器的硬件架構信息以及對應的訪存帶寬生成對應的二進制指令的步驟包括：

所述通用處理器根據人工智能算法模型對應計算圖中的目標算子，確定與所述目標算子相關聯的張量數據的拆分狀態集合；其中，所述張量數據包括輸入張量數據和輸出張量數據；

所述通用處理器遍歷所述拆分狀態集合，確定相鄰拆分狀態集合之間所述算子的張量數據的拆分路徑以及所述拆分路徑的權重；其中，所述拆分路徑的權重基于所述訪存帶寬確定；

所述通用處理器根據所述拆分路徑的權重，確定所述目標算子的張量數據的目標拆分路徑，根據所述目標拆分路徑對所述計算圖中的目標算子進行拆分；

所述通用處理器根據所述端側人工智能處理器的硬件架構信息對拆分后的神經網絡模型進行編譯，獲得對應的二進制指令。

4.如權利要求2所述的方法，其特征在于，所述端側人工智能處理器的硬件架構信息包括：片上存儲大小、端側人工智能處理器的核數、端側人工智能處理器的運算器類型、端側人工智能處理器的運行主頻率。

5.如權利要求2所述的方法，其特征在于，所述通用處理器將端側人工智能處理器的硬件架構信息寫入驅動程序中，以根據所述驅動程序中的硬件架構信息適配云側人工智能處理器。

6.如權利要求2所述的方法，其特征在于，根據所述運行結果確定所述離線運行文件，包括：

若所述運行結果滿足預設要求，則根據滿足所述預設要求的二進制指令生成對應的離線運行文件。

7.如權利要求2所述的方法，其特征在于，根據所述運行結果確定所述離線運行文件，還包括：

若所述運行結果不滿足預設要求，執行如下過程中的至少一種優化方式，直至運行結果滿足所述預設要求，并根據滿足所述預設要求的二進制指令生成對應的離線運行文件；其中，所述優化方式包括：

調整所述端側人工智能處理器的硬件架構信息；

或優化人工智能學習任務。

8.如權利要求7所述的方法，其特征在于，所述優化人工智能學習任務的步驟包括：

通過專用編程語言來優化人工智能學習任務。

9.如權利要求7或8所述的方法，其特征在于，所述優化人工智能學習任務的步驟還包括：

更新人工智能學習庫的版本來優化人工智能學習任務。