[發明專利]一種人工智能應用的部署方法及相關裝置

有效

• 申請號: 201911243205.1
• 申請日: 2019-12-06
• 公開（公告）號: CN111045687B
• 公開（公告）日: 2022-04-22
• 發明（設計）人: 林建偉
• 申請（專利權）人: 浪潮（北京）電子信息產業有限公司
• 主分類號: G06F8/60
• 分類號: G06F8/60
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 丁曼曼

1.一種人工智能應用的部署方法，其特征在于，包括：

根據待部署硬件環境的硬件信息對應的算力信息和數據帶寬信息進行計算強度計算，得到硬件計算強度值；

根據獲取到的待部署人工智能應用的計算量和訪存量進行計算強度計算，得到應用計算強度值；

根據所述硬件計算強度值和所述應用計算強度值之間的比較關系執行性能調整操作，以便完成所述待部署人工智能應用的部署操作；

其中，根據待部署硬件環境的硬件信息對應的算力信息和數據帶寬信息進行計算強度計算，得到硬件計算強度值，包括：

獲取所述待部署硬件環境的硬件信息；

根據所述硬件信息獲取到對應的所述算力信息和所述數據帶寬信息；

計算所述算力信息和所述數據帶寬信息的比值，得到所述硬件計算強度值；

其中，根據獲取到的待部署人工智能應用的計算量和訪存量進行計算強度計算，得到應用計算強度值，包括：

通過預設路徑運行所述待部署人工智能應用，提取所述待部署人工智能應用的所述計算量和所述訪存量；

將所述計算量和所述訪存量之間進行比值計算，得到所述應用計算強度值；

其中，根據所述硬件計算強度值和所述應用計算強度值之間的比較關系執行性能調整操作，以便完成所述待部署人工智能應用的部署操作，包括：

當所述硬件計算強度值大于所述應用計算強度值時，將所述待部署人工智能應用的批處理數據的數量設置為所述待部署硬件環境的最大處理數量；

當所述硬件計算強度值小于所述應用計算強度值時，將所述待部署硬件環境的CPU工作模式設置為性能模式；同時調整設置GPU頻率為最高頻率；

當所述硬件計算強度值等于所述應用計算強度值時，發送計算強度匹配成功消息。

2.根據權利要求1所述的部署方法，其特征在于，還包括：

進行日志記錄，得到優化日志信息。

3.一種人工智能應用的部署裝置，其特征在于，包括：

硬件計算強度獲取模塊，用于根據待部署硬件環境的硬件信息對應的算力信息和數據帶寬信息進行計算強度計算，得到硬件計算強度值；

應用計算強度獲取模塊，用于根據獲取到的待部署人工智能應用的計算量和訪存量進行計算強度計算，得到應用計算強度值；

性能調整部署模塊，用于根據所述硬件計算強度值和所述應用計算強度值之間的比較關系執行性能調整操作，以便完成所述待部署人工智能應用的部署操作；

其中，所述硬件計算強度獲取模塊，包括：

硬件信息獲取單元，用于獲取所述待部署硬件環境的硬件信息；

算力信息獲取單元，用于根據所述硬件信息獲取到對應的所述算力信息和所述數據帶寬信息；

計算強度獲取單元，用于計算所述算力信息和所述數據帶寬信息的比值，得到所述硬件計算強度值；

其中，所述應用計算強度獲取模塊，包括：

應用算量獲取單元，用于通過預設路徑運行所述待部署人工智能應用，提取所述待部署人工智能應用的所述計算量和所述訪存量；

應用計算強度獲取單元，用于將所述計算量和所述訪存量之間進行比值計算，得到所述應用計算強度值；

其中，所述性能調整部署模塊，具體用于當所述硬件計算強度值大于所述應用計算強度值時，將所述待部署人工智能應用的批處理數據的數量設置為所述待部署硬件環境的最大處理數量；當所述硬件計算強度值小于所述應用計算強度值時，將所述待部署硬件環境的CPU工作模式設置為性能模式；同時調整設置GPU頻率為最高頻率；當所述硬件計算強度值等于所述應用計算強度值時，發送計算強度匹配成功消息。

4.一種服務器，其特征在于，包括：

存儲器，用于存儲計算機程序；

處理器，用于執行所述計算機程序時實現如權利要求1至2任一項所述的部署方法的步驟。

5.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質上存儲有計算機程序，所述計算機程序被處理器執行時實現如權利要求1至2任一項所述的部署方法的步驟。