[發(fā)明專利]處理計(jì)算任務(wù)的方法、設(shè)備和計(jì)算機(jī)程序產(chǎn)品

在審

• 申請(qǐng)?zhí)枺?/td>: 201810359117.7
• 申請(qǐng)日: 2018-04-20
• 公開（公告）號(hào): CN110389824A
• 公開（公告）日: 2019-10-29
• 發(fā)明（設(shè)計(jì)）人: 趙軍平;彭麟;應(yīng)治;王鯤
• 申請(qǐng)（專利權(quán)）人: 伊姆西IP控股有限責(zé)任公司
• 主分類號(hào): G06F9/50
• 分類號(hào): G06F9/50;G06N3/02
• 代理公司: 北京市金杜律師事務(wù)所 11256
• 代理人: 王茂華;李崢宇

1.一種用于處理計(jì)算任務(wù)的方法，包括：

獲取多個(gè)計(jì)算資源的狀態(tài)信息；

響應(yīng)于接收到基于神經(jīng)網(wǎng)絡(luò)模型的計(jì)算任務(wù)，確定與所述神經(jīng)網(wǎng)絡(luò)模型相關(guān)聯(lián)的多個(gè)層的配置信息；

基于所述配置信息獲取與所述多個(gè)層中的至少一部分層相關(guān)聯(lián)的參數(shù)數(shù)據(jù)；以及

基于所述狀態(tài)信息和所述參數(shù)數(shù)據(jù)，從所述多個(gè)計(jì)算資源中選擇一組計(jì)算資源以用于處理所述計(jì)算任務(wù)。

2.根據(jù)權(quán)利要求1所述的方法，其中基于所述狀態(tài)信息選擇一組計(jì)算資源包括：針對(duì)所述至少一部分層中的第一層，

基于所述參數(shù)數(shù)據(jù)，確定與所述第一層相關(guān)聯(lián)的參數(shù)的第一數(shù)量；以及

基于所述狀態(tài)信息，從所述多個(gè)計(jì)算資源中選擇與所述第一數(shù)量相匹配的第一計(jì)算資源以用于處理與所述第一層相關(guān)聯(lián)的所述參數(shù)。

3.根據(jù)權(quán)利要求2所述的方法，其中基于所述狀態(tài)信息選擇一組計(jì)算資源包括：

基于所述參數(shù)數(shù)據(jù)，確定與所述至少一部分層相關(guān)聯(lián)的參數(shù)的相應(yīng)數(shù)量；

基于所述相應(yīng)數(shù)量將所述至少一部分層進(jìn)行排序；以及

基于所述排序選擇所述第一層。

4.根據(jù)權(quán)利要求2所述的方法，進(jìn)一步包括：

確定用于處理與所述第一層相關(guān)聯(lián)的參數(shù)所需的第一資源分配；以及

基于所述第一資源分配，更新所述狀態(tài)信息。

5.根據(jù)權(quán)利要求3所述的方法，進(jìn)一步包括：針對(duì)所述至少一部分層中的第二層，

基于所述參數(shù)數(shù)據(jù)，確定與所述第二層相關(guān)聯(lián)的參數(shù)的第二數(shù)量；以及

基于更新的所述狀態(tài)信息，從所述多個(gè)計(jì)算資源中選擇與所述第二數(shù)量相匹配的第二計(jì)算資源以用于處理與所述第二層相關(guān)聯(lián)的所述參數(shù)。

6.根據(jù)權(quán)利要求5所述的方法，進(jìn)一步包括：

確定用于處理所述至少一部分層所需的計(jì)算資源的數(shù)量；以及

響應(yīng)于確定被選擇的計(jì)算資源的數(shù)量達(dá)到所述數(shù)量，從已被選擇的計(jì)算資源中選擇用于處理與所述至少一部分層中的第三層相關(guān)聯(lián)的參數(shù)的計(jì)算資源。

7.根據(jù)權(quán)利要求1所述的方法，其中確定所述多個(gè)計(jì)算資源的狀態(tài)信息包括：

監(jiān)視所述多個(gè)計(jì)算資源的資源信息；以及

基于所述資源信息確定所述多個(gè)計(jì)算資源的狀態(tài)信息。

8.根據(jù)權(quán)利要求7所述的方法，其中所述多個(gè)計(jì)算資源的資源信息包括以下多個(gè)指標(biāo)中的至少任一指標(biāo)：

所述多個(gè)計(jì)算資源的處理能力信息、存儲(chǔ)器資源信息以及帶寬資源信息。

9.根據(jù)權(quán)利要求8所述的方法，其中基于所述資源信息確定所述多個(gè)計(jì)算資源的狀態(tài)信息進(jìn)一步包括：針對(duì)所述多個(gè)計(jì)算資源中的給定計(jì)算資源，

基于所述計(jì)算任務(wù)確定針對(duì)所述給定計(jì)算資源的所述多個(gè)指標(biāo)中的相應(yīng)指標(biāo)的重要性；以及

基于所述相應(yīng)指標(biāo)的重要性以及所述相應(yīng)指標(biāo)，確定針對(duì)所述給定計(jì)算資源的狀態(tài)信息。

10.根據(jù)權(quán)利要求1所述的方法，其中所述多個(gè)計(jì)算資源是多個(gè)圖形處理單元。

11.一種用于處理計(jì)算任務(wù)的設(shè)備，包括：

至少一個(gè)處理器；

易失性存儲(chǔ)器；以及

與所述至少一個(gè)處理器耦合的存儲(chǔ)器，所述存儲(chǔ)器具有存儲(chǔ)于其中的指令，所述指令在被所述至少一個(gè)處理器執(zhí)行時(shí)使得所述設(shè)備執(zhí)行動(dòng)作，所述動(dòng)作包括：

獲取多個(gè)計(jì)算資源的狀態(tài)信息；

響應(yīng)于接收到基于神經(jīng)網(wǎng)絡(luò)模型的計(jì)算任務(wù)，確定與所述神經(jīng)網(wǎng)絡(luò)模型相關(guān)聯(lián)的多個(gè)層的配置信息；

基于所述配置信息獲取與所述多個(gè)層中的至少一部分層相關(guān)聯(lián)的參數(shù)數(shù)據(jù)；以及

基于所述狀態(tài)信息和所述參數(shù)數(shù)據(jù)，從所述多個(gè)計(jì)算資源中選擇一組計(jì)算資源以用于處理所述計(jì)算任務(wù)。