[發明專利]一種基于時間序列分析的深度學習訓練任務行為預測方法

有效

• 申請號: 202010104955.7
• 申請日: 2020-02-20
• 公開（公告）號: CN111353584B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 陳鵬飛;廖維明;鄭子彬
• 申請（專利權）人: 中山大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08;G06F9/50;G06F11/30
• 代理公司: 廣州粵高專利商標代理有限公司 44102
• 代理人: 林麗明

1.一種基于時間序列分析的深度學習訓練任務運行行為的預測方法，其特征在于，包括，

S1收集系統指標及任務指標，其中系統指標至少包括GPU利用率，任務指標至少包括訓練任務信息、最大訓練迭代次數和訓練任務精度；

S2獲取GPU利用率的數據并將其視為時間序列樣本，將時間序列樣本通過傅立葉變換DFT使其時域轉換為頻域得到振幅-時間的頻譜圖，轉換后的頻譜圖譜上取最大值對應的時間為GPU利用率周期；

S3以所獲取的GPU利用率周期作為SARIMA模型的季節長度S，以GPU利用率數據為訓練數據，迭代訓練SARIMA模型，依據評估指標選擇最優的SARIMA模型進行時間序列指標的GPU利用率預測；具體如下：

S301采用季節性差分自回歸滑動平均模型SARIMA預測具有季節性變換的時間序列，其數學定義如下：

Φ_p(L)＝(1-φ₁L-φ₁L²-...-φ₁L^p)

A_p(L^S)＝(1-α₁L^S-α₂L^2S-...-α_PL^PS)

其中，y_t為輸入的GPU利用率數據，L為y_t非季節性的滯后算子，L^S為y_t季節性的滯后算子，Δ為對y_t的非季節差分，Δ_S為對y_t的季節性差分，d為非季節差分次數，D為季節性差分次數，Φ_p(L)為非季節自回歸特征多項式，A_p(L^S)為季節自回歸特征多項式，Θ_q(L)為非季節移動平均特征多項式，B_Q(L^S)為季節移動平均特征多項式，p為非季節自回歸特征多項式的階數，P為季節自回歸特征多項式的階數，q為非季節移動平均特征多項式的階數，Q為季節移動平均特征多項式的階數，u_t為殘差序列，將模型SARIMA的數學定義簡寫為：

SARIMA(p，d，q)(P，D，Q)_s；

S302根據評估指標確定p、d、q、P、D、Q六個參數的所有值；

S303將S2獲取的GPU利用率周期代入SARIMA模型的季節周期參數S，通過窮舉法遍歷模型p、d、q、P、D、Q六個參數的所有值，由此獲得所有可能的SARIMA模型；

S304對每個SARIMA模型依據評估指標挑選出最優的一個模型；

S305使用最優的模型完成預測GPU利用率的工作；

S4：利用所獲取的GPU利用率周期結合任務指標采用曲線擬合方法預測訓練任務精度的變化趨勢以獲取訓練任務滿意精度時的迭代次數，迭代次數乘以所獲取的訓練任務周期得到訓練任務執行時間預測。

2.如權利要求1所述的基于時間序列的深度學習訓練任務運行時行為預測方法，其特征在于，所述S2具體如下，

S201將GPU利用率數據處理為時間序列樣本x_n，使用離散型傅立葉變換DFT將時間序列樣本x_n映射到頻域的序列X_k，離散型傅里葉變換的公式為：

其中，x_n為時間序列樣本，n為時間序列樣本數，N為時間序列樣本總量，k是0到N/2的樣本點序號，采樣為均勻采樣，采樣點之間為固定的采樣間隔，周期為k乘以采樣間隔，|X_k|表示傅立葉DFT變換后的振幅，i為虛數單位，由此獲得的|X_k|為y軸，頻率為x軸的頻譜圖，將時間序列的樣本對應換算到頻譜圖，取頻譜圖上最大值周期對應的時間為GPU利用率周期。