[發明專利]神經網絡生成方法及生成器、驗證方法及系統、存儲介質

有效

• 申請號: 202310692612.0
• 申請日: 2023-06-13
• 公開（公告）號: CN116431421B
• 公開（公告）日: 2023-08-29
• 發明（設計）人: 段茗
• 申請（專利權）人: 成都登臨科技有限公司
• 主分類號: G06F11/26
• 分類號: G06F11/26;G06N3/063
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇;宋曉雯

本申請涉及一種神經網絡生成方法及生成器、驗證方法及系統、存儲介質，該神經網絡生成方法包括：獲取目標神經網絡的配置信息，其中，目標神經網絡能夠用于AI芯片的功能驗證，該配置信息包括AI芯片能夠支持的算子層數、算子列表和算子生成權重；根據配置信息生成目標神經網絡，其中目標神經網絡包括AI芯片能夠支持的算子以及用于表征各算子之間的連接關系的拓撲結構。由此，本申請可以在盡可能全的驗證空間中完成現有甚至是未來可能出現的各種神經網絡的驗證，增強了AI芯片的驗證空間的覆蓋率，確保了AI芯片的設計能夠兼容多種結構和大小的神經網絡，進而可以提高AI芯片的兼容性并且可以延長AI芯片的市場生命周期。

技術領域

本申請涉及芯片技術領域，尤其涉及一種神經網絡生成方法及生成器、驗證方法及系統、存儲介質。

背景技術

人工智能（英文：Artificial?Intelligence，簡稱：AI）芯片最重要的設計功能是能夠正確運行各種神經網絡，例如包括但不限于：深度卷積神經網絡VGG16和ResNet50、以及BERT神經網絡。因此，在芯片驗證中，除了需要對單算子（英文：Operation，簡稱：OP）功能以及指令集架構（英文：Instruction?Set?Architecture，簡稱：ISA）進行驗證以外，通常還會選取各種神經網絡進行芯片驗證，驗證AI芯片是否能夠正確運行所選取的神經網絡。

然而，即使對現有的神經網絡都進行了驗證，也不能保證AI芯片在運行新的神經網絡時不出現“兼容性”問題。這是因為，雖然AI芯片能夠支持新的神經網絡所使用的算子，但是新的神經網絡通常會定義更多的算子層數和不同的拓撲結構（圖結構）。如果在AI芯片驗證時沒有在這些條件下進行測試，則可能遇到AI芯片Bug而出現AI芯片不支持這些算子層數和拓撲結構的情況。

從測試角度而言，現有存在并支持的（其中的算子AI芯片都支持的）神經網絡也只是AI芯片架構設計下、能夠支持的神經網絡中的一個子集。因此，需要一種方法，能夠在現有以及未來可能出現的神經網絡中，在當前的AI芯片算子功能支持的前提下，完成盡可能多的不同結構、不同層數的神經網絡的驗證。

相關技術中，在AI芯片的ISA層面，進行各種組合的隨機驗證，但是，在神經網絡層面，則使用盡可能多的現有的已知結構的神經網絡來完成驗證。

然而，上述方式只能在神經網絡的有限驗證空間中（對有限的神經網絡）完成AI芯片的功能驗證，對于現在未測試或者未來可能出現的神經網絡，并不能做一些預見性的驗證，從而導致AI芯片的“兼容性”不足，縮短了AI芯片的市場生命周期。

發明內容

有鑒于此，本申請提出了一種神經網絡生成方法及生成器、芯片驗證方法及系統、存儲介質，根據配置信息隨機生成包括AI芯片能夠支持的所有算子以及用于表征各算子之間的連接關系的拓撲結構的神經網絡，從而可以在盡可能全的驗證空間中完成現有甚至是未來可能出現的各種神經網絡的驗證，有利于提高AI芯片的兼容性并且延長AI芯片的市場生命周期。

第一方面，本申請實施例提供一種神經網絡生成方法，應用于神經網絡生成器，該神經網絡生成方法包括：獲取目標神經網絡的配置信息，其中，所述目標神經網絡能夠用于AI芯片的功能驗證，所述配置信息包括所述AI芯片能夠支持的算子層數、算子列表和算子生成權重；根據所述配置信息生成所述目標神經網絡，其中所述目標神經網絡包括所述AI芯片能夠支持的算子以及用于表征各算子之間的連接關系的拓撲結構。

第二方面，本申請實施例提供一種神經網絡生成器，包括：獲取模塊，用于獲取目標神經網絡的配置信息，其中，所述目標神經網絡能夠用于AI芯片的功能驗證，所述配置信息包括所述AI芯片能夠支持的算子層數、算子列表和算子生成權重；生成模塊，用于根據所述配置信息生成所述目標神經網絡，其中所述目標神經網絡包括所述AI芯片能夠支持的算子以及用于表征各算子之間的連接關系的拓撲結構。