[發明專利]神經網絡生成方法及生成器、驗證方法及系統、存儲介質

有效

• 申請號: 202310692612.0
• 申請日: 2023-06-13
• 公開（公告）號: CN116431421B
• 公開（公告）日: 2023-08-29
• 發明（設計）人: 段茗
• 申請（專利權）人: 成都登臨科技有限公司
• 主分類號: G06F11/26
• 分類號: G06F11/26;G06N3/063
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇;宋曉雯

1.一種神經網絡生成方法，應用于神經網絡生成器，其特征在于，包括：

獲取目標神經網絡的配置信息，其中，所述目標神經網絡能夠用于AI芯片的功能驗證，所述配置信息包括所述AI芯片能夠支持的算子層數、算子列表和算子生成權重；

根據所述配置信息生成所述目標神經網絡，其中所述目標神經網絡包括所述AI芯片能夠支持的算子以及用于表征各算子之間的連接關系的拓撲結構，

其中，根據所述配置信息生成所述目標神經網絡，包括：

針對所述算子層數中的每一層，

根據所述算子列表和所述算子生成權重來生成該層的算子；

根據所生成的算子的類型來確定所述算子的輸入張量個數以及輸入張量；

將所述算子的輸出張量加入到所述算子對應的張量集合中，并初始化所述輸出張量的選取權重；

其中，根據所生成的算子的類型來確定所述算子的輸入張量個數以及輸入張量，包括：

根據所生成的算子的類型，確定所述算子的輸入張量個數；

根據所述算子對應的選取權重，從所述算子對應的張量集合中選擇輸入張量。

2.根據權利要求1所述的神經網絡生成方法，其特征在于，在確定所述輸入張量之后，還包括：

按照預設規則來更新所述算子對應的張量集合中的各張量的選取權重。

3.根據權利要求2所述的神經網絡生成方法，其特征在于，所述預設規則包括：降低所述輸入張量在所述算子對應的張量集合中的選取權重，并且增加所述算子對應的張量集合中未被選中的張量的選取權重。

4.根據權利要求2所述的神經網絡生成方法，其特征在于，所述預設規則包括：降低所述算子對應的張量集合中的使用次數少的張量的選取權重，并且增加所述算子對應的張量集合中的使用次數多的張量的選取權重。

5.根據權利要求1所述的神經網絡生成方法，其特征在于，將所述算子的輸出張量加入到所述算子對應的張量集合中，包括：

根據所述算子的行為，按照規則從所述算子對應的張量集合中移除符合條件的張量，并將所述算子的輸出張量加入到所述張量集合中的位置處，其中所述位置是從所述張量集合中移除的張量在所述張量集合中的位置。

6.根據權利要求1～5中任一項所述的神經網絡生成方法，其特征在于，根據所述配置信息生成所述目標神經網絡，包括：

針對所述算子層數中的每一層，

確定所生成的該層的算子是否能夠加入當前的子網；

如果所述算子能夠加入所述子網，則將所述算子加入所述子網，并更新所述子網的參數；

如果所述算子不能加入所述子網，則創建新的子網，將所述算子加入所述新的子網，并更新所述新的子網的參數。

7.根據權利要求6所述的神經網絡生成方法，其特征在于，確定所生成的該層的算子是否能夠加入當前的子網，包括：

確定所述算子使用的張量所占用的片上內存是否超出所述AI芯片的最大片上內存容量；

確定所述算子對應的硬件指令條數是否超出所述AI芯片的一次任務總指令條數；

確定所述算子占用的各類寄存器數量是否超出所述AI芯片的硬件資源的最大限制；

確定所述算子是否滿足所述AI芯片的硬件計算資源的限制條件。

8.根據權利要求1～5中任一項所述的神經網絡生成方法，其特征在于，在獲取所述配置信息之后并且在生成所述目標神經網絡之前，所述神經網絡生成方法還包括：根據所述配置信息來初始化所述神經網絡生成器。

9.根據權利要求8所述的神經網絡生成方法，其特征在于，根據所述配置信息來初始化所述神經網絡生成器，包括：

根據所述配置信息來初始化所述神經網絡生成器的與所述配置信息相對應的參數；

根據所述配置信息中的張量相關信息來生成包括隨機數據的張量，將所述張量加入相應的張量集合中，并且初始化所述張量集合中的每個張量的選取權重，

其中，所述張量相關信息包括張量的大小、張量的數據類型以及張量的內存格式。