[發(fā)明專(zhuān)利]一種AI芯片計(jì)算性能的測(cè)試方法、裝置、設(shè)備、及介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202110843968.0
• 申請(qǐng)日: 2021-07-26
• 公開(kāi)（公告）號(hào): CN113568821A
• 公開(kāi)（公告）日: 2021-10-29
• 發(fā)明（設(shè)計(jì)）人: 張釗
• 申請(qǐng)（專(zhuān)利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類(lèi)號(hào): G06F11/34
• 分類(lèi)號(hào): G06F11/34
• 代理公司: 北京品源專(zhuān)利代理有限公司 11332
• 代理人: 劉臣剛

1.一種AI芯片計(jì)算性能的測(cè)試方法，其中，所述方法包括：

根據(jù)待測(cè)AI芯片在開(kāi)發(fā)過(guò)程中所形成的各項(xiàng)仿真模擬數(shù)據(jù)，形成待測(cè)AI芯片的計(jì)算性能結(jié)果數(shù)據(jù)；

獲取與待測(cè)業(yè)務(wù)功能匹配的功能指令集，所述功能指令集使用與待測(cè)AI芯片匹配的標(biāo)準(zhǔn)指令集中的多項(xiàng)指令組合構(gòu)成；

根據(jù)所述功能指令集，以及所述計(jì)算性能結(jié)果數(shù)據(jù)，預(yù)測(cè)所述待測(cè)AI芯片執(zhí)行所述業(yè)務(wù)功能所需的計(jì)算耗時(shí)。

2.根據(jù)權(quán)利要求1所述的方法，其中，根據(jù)待測(cè)AI芯片在開(kāi)發(fā)過(guò)程中所形成的各項(xiàng)仿真模擬數(shù)據(jù)，形成待測(cè)AI芯片的計(jì)算性能結(jié)果數(shù)據(jù)，包括下述至少一項(xiàng)：

在所述仿真模擬數(shù)據(jù)中，獲取與標(biāo)準(zhǔn)指令集中的各標(biāo)準(zhǔn)指令分別對(duì)應(yīng)的計(jì)算耗時(shí)，形成指令維度下的計(jì)算性能結(jié)果數(shù)據(jù)；

在所述仿真模擬數(shù)據(jù)中，獲取與各功能模塊分別對(duì)應(yīng)的計(jì)算耗時(shí)，形成單功能模塊維度下的計(jì)算性能結(jié)果數(shù)據(jù)，所述功能模塊由多個(gè)標(biāo)準(zhǔn)指令組合構(gòu)成；

在所述仿真模擬數(shù)據(jù)中，獲取與各功能模塊組分別對(duì)應(yīng)的計(jì)算耗時(shí)，形成功能模塊組維度下的計(jì)算性能結(jié)果數(shù)據(jù)，所述功能模塊組中包括多個(gè)功能模塊，以及各功能模塊之間的協(xié)同工作關(guān)系。

3.根據(jù)權(quán)利要求1所述的方法，其中，根據(jù)所述功能指令集，以及所述計(jì)算性能結(jié)果數(shù)據(jù)，預(yù)測(cè)所述待測(cè)AI芯片執(zhí)行所述業(yè)務(wù)功能所需的計(jì)算耗時(shí)，包括：

將所述功能指令集輸入至計(jì)算性能預(yù)測(cè)模型中，獲取所述計(jì)算性能預(yù)測(cè)模型預(yù)測(cè)得到的，所述待測(cè)AI芯片執(zhí)行所述業(yè)務(wù)功能所需的計(jì)算耗時(shí)；

其中，所述計(jì)算性能預(yù)測(cè)模型，使用所述計(jì)算性能結(jié)果數(shù)據(jù)作為訓(xùn)練樣本訓(xùn)練得到。

4.根據(jù)權(quán)利要求3所述的方法，其中，所述計(jì)算性能結(jié)果數(shù)據(jù)中還包括：與標(biāo)準(zhǔn)指令、功能模塊或者功能模塊組分別對(duì)應(yīng)的輸入數(shù)據(jù)集；

將所述功能指令集輸入至計(jì)算性能預(yù)測(cè)模型中，獲取所述計(jì)算性能預(yù)測(cè)模型預(yù)測(cè)得到的，所述待測(cè)AI芯片執(zhí)行所述業(yè)務(wù)功能所需的計(jì)算耗時(shí)，包括：

將所述功能指令集以及與所述待測(cè)業(yè)務(wù)功能對(duì)應(yīng)的輸入數(shù)據(jù)集共同輸入至計(jì)算性能預(yù)測(cè)模型中，獲取所述計(jì)算性能預(yù)測(cè)模型預(yù)測(cè)得到的，所述待測(cè)AI芯片執(zhí)行所述業(yè)務(wù)功能所需的計(jì)算耗時(shí)。

5.根據(jù)權(quán)利要求3所述的方法，其中，所述計(jì)算性能結(jié)果數(shù)據(jù)中還包括：與標(biāo)準(zhǔn)指令、功能模塊或者功能模塊組分別對(duì)應(yīng)的片上系統(tǒng)SoC環(huán)境描述信息；

將所述功能指令集輸入至計(jì)算性能預(yù)測(cè)模型中，獲取所述計(jì)算性能預(yù)測(cè)模型預(yù)測(cè)得到的，所述待測(cè)AI芯片執(zhí)行所述業(yè)務(wù)功能所需的計(jì)算耗時(shí)，包括：

將所述功能指令集以及與所述待測(cè)業(yè)務(wù)功能對(duì)應(yīng)的SoC環(huán)境描述信息共同輸入至計(jì)算性能預(yù)測(cè)模型中，獲取所述計(jì)算性能預(yù)測(cè)模型預(yù)測(cè)得到的，所述待測(cè)AI芯片執(zhí)行所述業(yè)務(wù)功能所需的計(jì)算耗時(shí)。

6.根據(jù)權(quán)利要求5所述的方法，其中，SoC環(huán)境描述信息包括下述至少一項(xiàng)：SoC芯片類(lèi)型、SoC芯片上配置的存儲(chǔ)器類(lèi)型、SoC芯片上配置的訪問(wèn)存儲(chǔ)配置類(lèi)型、以及SoC芯片的帶寬。

7.根據(jù)權(quán)利要求3所述的方法，其中，在根據(jù)所述功能指令集，以及所述計(jì)算性能結(jié)果數(shù)據(jù)，預(yù)測(cè)所述待測(cè)AI芯片執(zhí)行所述業(yè)務(wù)功能所需的計(jì)算耗時(shí)之后，還包括：

如果確定所述計(jì)算耗時(shí)超過(guò)預(yù)設(shè)的計(jì)算耗時(shí)門(mén)限，則重新構(gòu)建與所述待測(cè)業(yè)務(wù)功能匹配的改進(jìn)后功能指令集，所述改進(jìn)后功能指令集下的AI芯片計(jì)算性能優(yōu)于所述功能指令集下的AI芯片計(jì)算性能；

將所述改進(jìn)后功能指令集輸入至計(jì)算性能預(yù)測(cè)模型中，獲取所述計(jì)算性能預(yù)測(cè)模型預(yù)測(cè)得到的，所述待測(cè)AI芯片執(zhí)行所述業(yè)務(wù)功能所需的新的計(jì)算耗時(shí)；

如果所述新的計(jì)算耗時(shí)大于或者等于所述計(jì)算耗時(shí)，則使用所述計(jì)算性能結(jié)果數(shù)據(jù)對(duì)所述計(jì)算性能預(yù)測(cè)模型繼續(xù)訓(xùn)練。