[發(fā)明專利]運(yùn)行深度學(xué)習(xí)網(wǎng)絡(luò)的方法及裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 202011303530.5
• 申請(qǐng)日: 2020-11-19
• 公開（公告）號(hào): CN112488293B
• 公開（公告）日: 2022-12-09
• 發(fā)明（設(shè)計(jì)）人: 伍永情;黃炯凱;蔡權(quán)雄;牛昕宇
• 申請(qǐng)（專利權(quán)）人: 山東產(chǎn)研鯤云人工智能研究院有限公司
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/063
• 代理公司: 深圳中一聯(lián)合知識(shí)產(chǎn)權(quán)代理有限公司 44414
• 代理人: 李建偉

1.一種運(yùn)行深度學(xué)習(xí)網(wǎng)絡(luò)的方法，其特征在于，包括：

基于固件準(zhǔn)備請(qǐng)求，調(diào)用內(nèi)存空間中的各個(gè)空閑空間地址分別生成相應(yīng)的第一DMA指令固件，所述內(nèi)存空間包括空閑空間和非空閑空間；

當(dāng)生成各個(gè)所述第一DMA指令固件時(shí)，獲取針對(duì)深度學(xué)習(xí)網(wǎng)絡(luò)的DMA操作請(qǐng)求；

基于所述DMA操作請(qǐng)求為所述深度學(xué)習(xí)網(wǎng)絡(luò)分配相應(yīng)的目標(biāo)DMA指令固件集，并將所述目標(biāo)DMA指令固件集發(fā)送給處理器，以使得所述處理器基于所述目標(biāo)DMA指令固件集運(yùn)行所述深度學(xué)習(xí)網(wǎng)絡(luò)；

其中，在獲取針對(duì)深度學(xué)習(xí)網(wǎng)絡(luò)的DMA操作請(qǐng)求之后，所述方法還包括：

確定運(yùn)行所述深度學(xué)習(xí)網(wǎng)絡(luò)所需求的目標(biāo)DMA指令固件的期望數(shù)量；

確定所生成的第一DMA指令固件的數(shù)量是否大于或等于所述期望數(shù)量；

相應(yīng)地，所述基于所述DMA操作請(qǐng)求為所述深度學(xué)習(xí)網(wǎng)絡(luò)分配相應(yīng)的目標(biāo)DMA指令固件集，并將所述目標(biāo)DMA指令固件集發(fā)送給處理器，包括：

如果所生成的第一DMA指令固件的數(shù)量小于所述期望數(shù)量，則釋放所述內(nèi)存空間中的所述非空閑空間，并調(diào)用所釋放的地址生成相應(yīng)的第二DMA指令固件，以使得所生成的第一DMA指令固件和第二DMA 指令固件的數(shù)量總和大于或等于所述期望數(shù)量；

如果所生成的第一DMA指令固件的數(shù)量大于或等于所述期望數(shù)量，則為所述深度學(xué)習(xí)網(wǎng)絡(luò)分配相應(yīng)的目標(biāo)DMA指令固件集，并將所述目標(biāo)DMA指令固件集發(fā)送給處理器。

2.如權(quán)利要求1所述的方法，其特征在于，所述基于固件準(zhǔn)備請(qǐng)求，調(diào)用內(nèi)存空間中的各個(gè)空閑空間地址分別生成相應(yīng)的第一DMA指令固件，包括：

獲取固件準(zhǔn)備請(qǐng)求；

基于所述固件準(zhǔn)備請(qǐng)求，確定所述內(nèi)存空間中的空閑空間地址；

根據(jù)所述內(nèi)存空間中的各個(gè)空閑空間地址，依次生成相應(yīng)的DMA指令固件。

3.如權(quán)利要求2所述的方法，其特征在于，所述基于所述固件準(zhǔn)備請(qǐng)求，確定所述內(nèi)存空間中的空閑空間地址，包括：

基于所述固件準(zhǔn)備請(qǐng)求，獲取所述內(nèi)存空間中未被分配的地址；

根據(jù)所述內(nèi)存空間中未被分配的地址，確定所述內(nèi)存空間中的空閑空間地址。

4.如權(quán)利要求1所述的方法，其特征在于，所述DMA指令固件包括DMA二進(jìn)制固件。

5.一種運(yùn)行深度學(xué)習(xí)網(wǎng)絡(luò)的裝置，其特征在于，包括：

第一DMA指令固件生成單元，被配置為基于固件準(zhǔn)備請(qǐng)求，調(diào)用內(nèi)存空間中的各個(gè)空閑空間地址分別生成相應(yīng)的第一DMA指令固件，所述內(nèi)存空間包括空閑空間和非空閑空間；

DMA操作請(qǐng)求獲取單元，被配置為當(dāng)生成各個(gè)所述第一DMA指令固件時(shí)，獲取針對(duì)深度學(xué)習(xí)網(wǎng)絡(luò)的DMA操作請(qǐng)求；

DMA指令固件處理單元，被配置為基于所述DMA操作請(qǐng)求為所述深度學(xué)習(xí)網(wǎng)絡(luò)分配相應(yīng)的目標(biāo)DMA指令固件集，并將所述目標(biāo)DMA指令固件集發(fā)送給處理器，以使得所述處理器基于所述目標(biāo)DMA指令固件集運(yùn)行所述深度學(xué)習(xí)網(wǎng)絡(luò)；

其中，所述裝置還包括：

期望數(shù)量確定單元，被配置為在獲取針對(duì)深度學(xué)習(xí)網(wǎng)絡(luò)的DMA操作請(qǐng)求之后，確定運(yùn)行所述深度學(xué)習(xí)網(wǎng)絡(luò)所需求的目標(biāo)DMA指令固件的期望數(shù)量；

固件數(shù)量比較單元，被配置為確定所生成的第一DMA指令固件的數(shù)量是否大于或等于所述期望數(shù)量；

相應(yīng)地，所述DMA指令固件處理單元還被配置為：

如果所生成的第一DMA指令固件的數(shù)量小于所述期望數(shù)量，則釋放所述內(nèi)存空間中的所述非空閑空間，并調(diào)用所釋放的地址生成相應(yīng)的第二DMA指令固件，以使得所生成的第一DMA指令固件和第二DMA指令固件的數(shù)量總和大于或等于所述期望數(shù)量；

如果所生成的第一DMA指令固件的數(shù)量大于或等于所述期望數(shù)量，則為所述深度學(xué)習(xí)網(wǎng)絡(luò)分配相應(yīng)的目標(biāo)DMA指令固件集，并將所述目標(biāo)DMA指令固件集發(fā)送給處理器。