[發(fā)明專利]后端測(cè)試方法、裝置、存儲(chǔ)介質(zhì)和計(jì)算機(jī)設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 202310067256.3
• 申請(qǐng)日: 2023-01-18
• 公開(kāi)（公告）號(hào): CN116048902A
• 公開(kāi)（公告）日: 2023-05-02
• 發(fā)明（設(shè)計(jì)）人: 林楊;張智慧;舒永康;史雙;王路娟
• 申請(qǐng)（專利權(quán)）人: 西安紫光展銳科技有限公司
• 主分類(lèi)號(hào): G06F11/26
• 分類(lèi)號(hào): G06F11/26;G06F11/22;G06N5/04
• 代理公司: 北京匯思誠(chéng)業(yè)知識(shí)產(chǎn)權(quán)代理有限公司 11444
• 代理人: 蘇勝

本發(fā)明實(shí)施例提供了一種后端測(cè)試方法、裝置、存儲(chǔ)介質(zhì)和計(jì)算機(jī)設(shè)備。該方法包括：獲取參數(shù)數(shù)據(jù)包、網(wǎng)絡(luò)模型文件與測(cè)試數(shù)據(jù)；根據(jù)參數(shù)數(shù)據(jù)包、網(wǎng)絡(luò)模型文件與測(cè)試數(shù)據(jù)生成推理結(jié)果；根據(jù)網(wǎng)絡(luò)模型文件與測(cè)試數(shù)據(jù)生成基線數(shù)據(jù)；根據(jù)基線數(shù)據(jù)與推理結(jié)果生成后端測(cè)試結(jié)果；根據(jù)在模型訓(xùn)練的過(guò)程中接入的后端，實(shí)時(shí)驗(yàn)證訓(xùn)練模型在不同后端上的數(shù)值穩(wěn)定性。從而能夠快速的測(cè)試后端推理數(shù)值的穩(wěn)定性；能夠接入不同的后端，達(dá)到實(shí)時(shí)的測(cè)試軟件仿真硬件、原理驗(yàn)證硬件或真實(shí)后端硬件的目的；也能夠快速驗(yàn)證已有后端在不同網(wǎng)絡(luò)模型上的性能；通過(guò)后端測(cè)試結(jié)果可以使技術(shù)人員容易發(fā)現(xiàn)后端的邏輯設(shè)計(jì)缺陷，為后期的修改提供了指導(dǎo)方向，減少了研發(fā)周期。

【技術(shù)領(lǐng)域】

本發(fā)明實(shí)施例涉及測(cè)試技術(shù)領(lǐng)域，具體涉及一種后端測(cè)試方法、裝置、存儲(chǔ)介質(zhì)和計(jì)算機(jī)設(shè)備。

【背景技術(shù)】

在神經(jīng)網(wǎng)絡(luò)處理器(Neural-network?Processing?Unit，NPU)、張量處理器(Tensor?Processing?Unit，TPU)、深度學(xué)習(xí)處理器(Deep?learning?Processing?Unit，DPU)等后端的設(shè)計(jì)過(guò)程中，硬件設(shè)計(jì)的周期性較長(zhǎng)。在后端完成邏輯設(shè)計(jì)后進(jìn)行用戶體驗(yàn)測(cè)試的過(guò)程中，若后端的設(shè)計(jì)缺陷則會(huì)導(dǎo)致網(wǎng)絡(luò)模型推理結(jié)果存在較大的精度誤差，增加研發(fā)周期。

【發(fā)明內(nèi)容】

有鑒于此，本發(fā)明實(shí)施例提供了一種后端測(cè)試方法、裝置、存儲(chǔ)介質(zhì)和計(jì)算機(jī)設(shè)備，用以解決現(xiàn)有技術(shù)中后端的設(shè)計(jì)缺陷則會(huì)導(dǎo)致網(wǎng)絡(luò)模型推理結(jié)果存在較大的精度誤差，增加研發(fā)周期的問(wèn)題。

第一方面，本發(fā)明實(shí)施例提供了一種后端測(cè)試方法，包括：

獲取參數(shù)數(shù)據(jù)包、網(wǎng)絡(luò)模型文件與測(cè)試數(shù)據(jù)；

根據(jù)所述參數(shù)數(shù)據(jù)包、所述網(wǎng)絡(luò)模型文件與所述測(cè)試數(shù)據(jù)生成推理結(jié)果；

根據(jù)所述網(wǎng)絡(luò)模型文件與所述測(cè)試數(shù)據(jù)生成基線數(shù)據(jù)；

根據(jù)所述基線數(shù)據(jù)與所述推理結(jié)果生成后端測(cè)試結(jié)果。

在一種可能的實(shí)現(xiàn)方式中，所述參數(shù)數(shù)據(jù)包包括第一測(cè)試環(huán)境參數(shù)，所述根據(jù)所述參數(shù)數(shù)據(jù)包、所述網(wǎng)絡(luò)模型文件與所述測(cè)試數(shù)據(jù)生成推理結(jié)果，包括：

在所述第一測(cè)試環(huán)境參數(shù)對(duì)應(yīng)的第一后端環(huán)境下，根據(jù)所述網(wǎng)絡(luò)模型文件生成第一推理圖；

根據(jù)所述參數(shù)數(shù)據(jù)包判斷是否更新所述第一推理圖；

若判斷出更新所述第一推理圖，則根據(jù)所述參數(shù)數(shù)據(jù)包與所述第一推理圖生成第二推理圖；

根據(jù)所述第二推理圖生成第一執(zhí)行隊(duì)列；

根據(jù)所述測(cè)試數(shù)據(jù)與所述第一執(zhí)行隊(duì)列生成所述推理結(jié)果。

在一種可能的實(shí)現(xiàn)方式中，所述根據(jù)所述參數(shù)數(shù)據(jù)包判斷是否更新所述第一推理圖，包括：

判斷所述參數(shù)數(shù)據(jù)包中是否包括匹配后端替換標(biāo)識(shí)；

若判斷出所述參數(shù)數(shù)據(jù)包中包括所述匹配后端替換標(biāo)識(shí)，則確定出更新所述第一推理圖。

在一種可能的實(shí)現(xiàn)方式中，所述參數(shù)數(shù)據(jù)包包括第二測(cè)試環(huán)境參數(shù)，所述根據(jù)所述參數(shù)數(shù)據(jù)包、所述網(wǎng)絡(luò)模型文件與所述測(cè)試數(shù)據(jù)生成推理結(jié)果，包括：

在所述第二測(cè)試環(huán)境參數(shù)對(duì)應(yīng)的第二后端環(huán)境下，根據(jù)所述網(wǎng)絡(luò)模型文件生成第三推理圖；

根據(jù)所述參數(shù)數(shù)據(jù)包判斷是否更新所述第三推理圖；

若判斷出更新所述第三推理圖，則根據(jù)所述參數(shù)數(shù)據(jù)包與所述第三推理圖生成第四推理圖；

根據(jù)所述第四推理圖生成第一順序與第一執(zhí)行總文件；

根據(jù)所述第一順序、所述第一執(zhí)行總文件與所述測(cè)試數(shù)據(jù)生成所述推理結(jié)果。