[發(fā)明專利]對深度學習應(yīng)用所用資源進行評估

有效

• 申請?zhí)枺?/td>: 201810360502.3
• 申請日: 2018-04-20
• 公開（公告）號: CN110390387B
• 公開（公告）日: 2023-07-18
• 發(fā)明（設(shè)計）人: 李三平;王鯤
• 申請（專利權(quán)）人: 伊姆西IP控股有限責任公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/0464;G06N3/08
• 代理公司: 北京市金杜律師事務(wù)所 11256
• 代理人: 王茂華;趙林琳

1.一種用于資源分配的方法，包括：

獲得性能基準數(shù)據(jù)庫，其中所述性能基準數(shù)據(jù)庫至少包括一個或多個深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)數(shù)據(jù)、基于所述一個或多個深度神經(jīng)網(wǎng)絡(luò)模型的多個深度學習應(yīng)用的時間性能數(shù)據(jù)和計算資源消耗數(shù)據(jù)；

基于所述性能基準數(shù)據(jù)庫，提取訓(xùn)練數(shù)據(jù)集，其中所述訓(xùn)練數(shù)據(jù)集具有多個參數(shù)維度，所述多個參數(shù)維度包括：所述多個深度學習應(yīng)用的深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)、所述多個深度學習應(yīng)用的資源配置、所述多個深度學習應(yīng)用的訓(xùn)練時間；

建立所述訓(xùn)練數(shù)據(jù)集的所述參數(shù)維度之間的對應(yīng)關(guān)系，從而構(gòu)建用于對于深度學習應(yīng)用所用資源進行評估的評估模型；以及

基于所述評估模型的評估結(jié)果，對于所述深度學習應(yīng)用分配硬件資源。

2.根據(jù)權(quán)利要求1所述的方法，其中獲得性能基準數(shù)據(jù)庫包括：

在不同的運行條件下，運行具有定制的深度神經(jīng)網(wǎng)絡(luò)模型的至少一個樣本負載程序，其中所述運行條件至少通過以下項的不同取值組合來定義：計算資源配置，以及輸入數(shù)據(jù)大小；以及

獲取在所述不同運行條件下所述具有定制的深度神經(jīng)網(wǎng)絡(luò)模型的至少一個樣本負載程序的訓(xùn)練時間，

其中：

所述性能基準數(shù)據(jù)庫中的所述一個或多個深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)數(shù)據(jù)包括所述定制的深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)數(shù)據(jù)；

所述性能基準數(shù)據(jù)庫中的所述時間性能數(shù)據(jù)包括所獲取的所述訓(xùn)練時間。

3.根據(jù)權(quán)利要求2所述的方法，其中獲取在所述不同運行條件下所述具有定制深度神經(jīng)網(wǎng)絡(luò)模型的至少一個樣本負載程序的訓(xùn)練時間包括：

在同一運行條件下，至少一次運行所述具有定制深度神經(jīng)網(wǎng)絡(luò)模型的至少一個樣本負載程序；

獲取樣本負載程序的前N+1步訓(xùn)練時間；

計算第2步至第N+1步的平均訓(xùn)練時間。

4.根據(jù)權(quán)利要求1所述的方法，其中所述訓(xùn)練數(shù)據(jù)集的所述多個參數(shù)維度還包括以下各項中的一項或多項：

輸入數(shù)據(jù)集大小；

資源利用率；

深度學習應(yīng)用的超參數(shù)。

5.根據(jù)權(quán)利要求1所述的方法，其中所述多個深度學習應(yīng)用的深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)包括與所述深度神經(jīng)網(wǎng)絡(luò)模型的計算強度相關(guān)的結(jié)構(gòu)參數(shù)。

6.根據(jù)權(quán)利要求5所述的方法，其中所述多個深度學習應(yīng)用的深度神經(jīng)網(wǎng)絡(luò)模型包括卷積神經(jīng)網(wǎng)絡(luò)模型，并且所述多個深度學習應(yīng)用的深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)包括：

與卷積神經(jīng)網(wǎng)絡(luò)模型的卷積層的計算強度相關(guān)的結(jié)構(gòu)參數(shù)，以及

與卷積神經(jīng)網(wǎng)絡(luò)模型的全連接層的計算強度相關(guān)的結(jié)構(gòu)參數(shù)。

7.根據(jù)權(quán)利要求1所述的方法，其中建立所述訓(xùn)練數(shù)據(jù)集的所述參數(shù)維度之間的對應(yīng)關(guān)系包括：

遵循以下至少一個準則，來建立所述訓(xùn)練數(shù)據(jù)集的所述參數(shù)維度之間的對應(yīng)關(guān)系：

最小化資源消耗；和/或

在所述多個深度學習應(yīng)用的深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)的參數(shù)維度與其他參數(shù)維度之間保持線性關(guān)系。

8.一種用于資源分配的設(shè)備，包括：

處理單元；以及

存儲器，耦合至所述處理單元并且包含存儲于其上的指令，所述指令在由所述處理單元執(zhí)行時使所述設(shè)備執(zhí)行以下動作：

獲得性能基準數(shù)據(jù)庫，其中所述性能基準數(shù)據(jù)庫至少包括一個或多個深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)數(shù)據(jù)、基于所述一個或多個深度神經(jīng)網(wǎng)絡(luò)模型的多個深度學習應(yīng)用的時間性能數(shù)據(jù)和計算資源消耗數(shù)據(jù)；

基于所述性能基準數(shù)據(jù)庫，提取訓(xùn)練數(shù)據(jù)集，其中所述訓(xùn)練數(shù)據(jù)集具有多個參數(shù)維度，所述多個參數(shù)維度包括：所述多個應(yīng)用的深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)、所述多個深度學習應(yīng)用的資源配置、所述多個深度學習應(yīng)用的訓(xùn)練時間；

建立所述訓(xùn)練數(shù)據(jù)集的所述參數(shù)維度之間的對應(yīng)關(guān)系，從而構(gòu)建用于對于深度學習應(yīng)用所用資源進行評估的評估模型；以及

基于所述評估模型的評估結(jié)果，對于所述深度學習應(yīng)用分配硬件資源。