[發明專利]神經網絡模型的運行方法、電子設備和存儲介質

有效

• 申請號: 202110191285.1
• 申請日: 2021-02-19
• 公開（公告）號: CN113052305B
• 公開（公告）日: 2022-10-21
• 發明（設計）人: 張忠立
• 申請（專利權）人: 展訊通信（上海）有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F21/60
• 代理公司: 北京匯思誠業知識產權代理有限公司 11444
• 代理人: 蘇勝

本申請提出了一種神經網絡模型的運行方法、電子設備和存儲介質，涉及人工智能技術領域。其中，上述神經網絡模型的運行方法包括：首先，獲取第一神經網絡模型，第一神經網絡模型的至少一個模型算子為待確定算子。以及，獲取第一神經網絡模型的算子映射數據，算子映射數據包括待確定算子與原始模型算子的映射關系。然后，根據映射關系，獲取第一神經網絡模型的各個待確定算子的原始模型算子。最后，將第一神經網絡模型的各個待確定算子替換為對應的原始模型算子并運行第一神經網絡模型。從而以實現對神經網絡模型的保護，防止神經網絡模型被非法獲取和攻擊。

【技術領域】

本申請涉及人工智能技術領域，尤其涉及一種神經網絡模型的運行方法、電子設備和存儲介質。

【背景技術】

神經網絡模型是模擬生物神經網絡進行信息處理的一種數學模型，在機器學習和認知科學領域已經有了廣泛的應用，是各類應用場景中最核心的資產。由于神經網絡模型交付運行前需要部署在Flash等持久存儲介質上，因此面臨著被非法獲取、攻擊的風險。

目前，為防止神經網絡模型被非法獲取和攻擊，常用的方法是：在設備出廠前，把神經網絡模型預置在設備的可信執行環境(Trusted Execution Environment，TEE)中。當神經網絡模型運行時，也需要在TEE環境中運行。但是在設備出廠之后，此方法難以支持后續的模型升級，實用性不高。并且，此方法難以支持用戶根據自身需要從公開應用市場安裝使用新的神經網絡模型，用戶體驗較差。

【發明內容】

本申請實施例提供了一種神經網絡模型的運行方法、電子設備和存儲介質，以實現對神經網絡模型的保護，防止神經網絡模型被非法獲取和攻擊。

第一方面，本申請實施例提供一種神經網絡模型的運行方法，所述方法包括：獲取第一神經網絡模型，所述第一神經網絡模型的至少一個模型算子為待確定算子；獲取所述第一神經網絡模型的算子映射數據，所述算子映射數據包括所述待確定算子與原始模型算子的映射關系；根據所述映射關系，獲取所述第一神經網絡模型的各個待確定算子的原始模型算子；將所述第一神經網絡模型的各個待確定算子替換為對應的原始模型算子并運行所述第一神經網絡模型。

其中一種可能的實現方式中，獲取所述第一神經網絡模型的算子映射數據，包括：根據所述第一神經網絡模型的信息，從本地存儲區或者云端存儲區獲取所述第一神經網絡模型的算子映射數據。

其中一種可能的實現方式中，從本地存儲區或者云端存儲區獲取所述第一神經網絡模型的算子映射數據，包括：從本地存儲區或者云端存儲區獲取所述第一神經網絡模型的算子映射數據的加密文件；根據預設的解密規則對所述加密文件進行解密，得到所述第一神經網絡模型的算子映射數據。

其中一種可能的實現方式中，將所述第一神經網絡模型的各個待確定算子替換為對應的原始模型算子之后，所述方法還包括：刪除獲取到的所述算子映射數據。

其中一種可能的實現方式中，運行所述第一神經網絡模型，包括：在隨機存儲區運行包含所述原始模型算子的第一神經網絡模型。

其中一種可能的實現方式中，在隨機存儲區運行包含所述原始模型算子的第一神經網絡模型之后，所述方法還包括：刪除所述隨機存儲區中包含所述原始模型算子的第一神經網絡模型。

第二方面，本申請實施例提供一種神經網絡模型的運行裝置，所述裝置包括：第一獲取模塊，用于獲取第一神經網絡模型，所述第一神經網絡模型的至少一個模型算子為待確定算子；第二獲取模塊，用于獲取所述第一神經網絡模型的算子映射數據，所述算子映射數據包括所述待確定算子與原始模型算子的映射關系；確定模塊，用于根據所述映射關系，獲取所述第一神經網絡模型的各個待確定算子的原始模型算子；執行模塊，用于將所述第一神經網絡模型的各個待確定算子替換為對應的原始模型算子并運行所述第一神經網絡模型。