[發明專利]AI模型的訓練方法、裝置、計算設備和存儲介質

在審

• 申請號: 202011053283.8
• 申請日: 2020-09-29
• 公開（公告）號: CN114154641A
• 公開（公告）日: 2022-03-08
• 發明（設計）人: 朱疆成;黃哲思;吳仁科;白小龍;楊兵兵;李億;鄭華;戴宗宏
• 申請（專利權）人: 華為云計算技術有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06F9/48;G06F9/50
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 楊廣宇

本申請提供了一種AI模型的訓練方法、裝置、計算設備和存儲介質，屬于人工智能技術領域。該方法應用于AI平臺，AI平臺與計算資源池相關聯，計算資源池包括用于模型訓練的計算節點，該方法包括：向用戶提供訓練配置界面，訓練配置界面包括供用戶選擇的多種訓練模式，每種訓練模式表示對訓練初始AI模型所需的計算節點的一種分配策略，根據用戶在訓練配置界面的選擇，生成至少一個訓練任務，執行該至少一個訓練任務以對初始AI模型進行訓練，獲得AI模型，獲得的AI模型供用戶下載或使用。采用本申請，可以更靈活地執行分布式訓練。

本申請要求于2020年09月07日提交的申請號為202010926721.0、發明名稱為“一種彈性訓練的方法及系統”的中國專利申請的優先權，其全部內容通過引用結合在本申請中。

技術領域

本申請涉及人工智能(artificial intelligence，AI)技術領域，特別涉及一種AI模型的訓練方法、裝置、計算設備和存儲介質。

背景技術

隨著人工智能技術的發展，以深度學習為代表的AI模型在各個領域中廣泛應用，如圖像分類、目標檢測、自然語言處理等。對初始AI模型進行訓練是一個比較關鍵的過程，訓練是指通過將訓練數據集的數據輸入至初始AI模型，由初始AI模型進行計算，通過計算結果對初始AI模型的參數進行更新，最終獲得具備一定能力(例如，圖像分類能力、目標檢測能力、自然語言識別能力等)的AI模型的過程。

由于訓練過程比較復雜且需要消耗巨大的計算資源，利用多個計算節點對初始AI模型執行分布式訓練成為了一種能有效滿足訓練效率的方式，然而如何更靈活地執行分布式訓練，以平衡用戶的訓練需求和資源利用率的需求是急需解決的一個問題。

發明內容

本申請提供了一種AI模型的訓練方法、裝置、計算設備和存儲介質，用以更靈活地執行分布式訓練。

第一方面，本申請提供了一種AI模型的訓練方法，該方法應用于AI平臺，AI平臺與計算資源池相關聯，計算資源池包括用于模型訓練的計算節點，該方法包括：向用戶提供訓練配置界面，其中，訓練配置界面包括供用戶選擇的多種訓練模式，每種訓練模式表示對訓練初始AI模型所需的計算節點的一種分配策略；根據用戶在訓練配置界面的選擇，生成至少一個訓練任務；執行該至少一個訓練任務以對初始AI模型進行訓練，獲得AI模型，獲得的AI模型供用戶下載或使用。

本申請所示的方案，AI平臺給用戶提供選擇訓練模式的功能，用戶可以選擇合適的訓練模式，用于生成至少一個訓練任務，而不是使用常規的分布式訓練，所以可以使得分布式訓練靈活的執行，進而可以平衡用戶的訓練需求和資源利用率。

在一種可能的實現方式中，多種訓練模式包括第一模式和/或第二模式，第一模式表示對初始AI模型進行訓練的過程中自動調整訓練任務的個數，第二模式表示不同訓練任務共享同一計算節點的資源。多種訓練模式還可以包括第三模式，第三模式表示常規模式，表示利用預設或預選的計算節點執行分布式訓練。

本申請所示的方案，第一模式也可以稱為是性能模式、turbo模式，第二模式也可以稱為是共享模式、經濟(economic)模式。第一模式表示對初始AI模型進行訓練的過程中自動調整一個訓練工作的訓練任務的個數，第二模式表示不同訓練任務共享同一計算節點的資源。此處不同訓練任務可以屬于同一個訓練工作，也可以屬于不同訓練工作。這樣，在至少使用第一模式時，可以動態調整訓練任務的個數，加快訓練速度，在至少使用第二模式時，可以與其它訓練工作共享訓練資源，提升資源利用率。

在一種可能的實現方式中，該至少一個訓練任務運行在容器上，該方法還包括：在對初始AI模型進行訓練的過程中，向用戶提供訓練過程的狀態信息，其中，狀態信息包括以下信息中的至少一種信息：執行訓練任務的容器個數，每個容器的資源使用量，執行訓練任務的計算節點的個數，和執行訓練任務的計算節點的資源使用量。