[發明專利]一種神經網絡模型加解密方法以及相關系統

在審

• 申請號: 202111425818.4
• 申請日: 2021-11-26
• 公開（公告）號: CN116187414A
• 公開（公告）日: 2023-05-30
• 發明（設計）人: 常建龍;姜娜娜;張震宇;樸世豪;史佳欣;謝凌曦;田奇
• 申請（專利權）人: 華為云計算技術有限公司
• 主分類號: G06N3/082
• 分類號: G06N3/082;G06F21/60
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 陳松浩

本申請提供了一種神經網絡模型加解密方法，應用于人工智能(AI)技術領域，包括：獲取神經網絡模型的結構信息和加密密鑰，加密密鑰用于指示待添加至神經網絡模型的至少一個第二神經元的添加方式，然后根據神經網絡模型的結構信息和加密密鑰，向神經網絡模型添加至少一個第二神經元，獲得加密后的神經網絡模型。當加密后的神經網絡模型被交付給用戶時，可以根據加密密鑰，將加密后的神經網絡模型中第二神經元的權重置零，從而實現模型解密。該方法通過在模型中添加具有混淆作用的第二神經元，使得模型的真實結構得到充分隱藏，實現了模型加密，然后在解密時，將第二神經元的權重置零，實現了模型解密，并且不泄露模型的真實結構和權重，保障了解密安全。

技術領域

本申請涉及人工智能(artificial?intelligence，AI)技術領域，尤其涉及一種神經網絡模型加密/解密的方法、模型管理系統以及計算機集群、計算機可讀存儲介質、計算機程序產品。

背景技術

隨著計算平臺的算力飛速增長以及數據規模的不斷增大，神經網絡(neuralnetworks)的研究取得了較大的進展。其中，神經網絡是機器學習或認知科學領域對人腦神經元進行抽象而建立的計算模型，也可以稱作神經網絡模型。神經網絡模型在很多任務中不斷刷新傳統方法的記錄，甚至可以達到超越人類的效果，因而得到廣泛應用。

針對特定任務的神經網絡模型(為了便于描述，有些情況下也簡稱為模型)在部署之前，通常需要進行模型訓練。模型訓練是指讓神經網絡模型學習已知數據中的規律，以獲得合適的權重(weights)，使得神經網絡模型能夠用于預測未知數據的過程。為了提高訓練效率，通常可以利用開源框架構建初始神經網絡模型進行訓練。根據開源協議的規定，采用開源框架訓練得到的神經網絡模型通常也需要進行開源。

然而，業界并未提供針對開源的神經網絡模型的通用保護方案，神經網絡模型的相關信息(例如是結構信息)通常對用戶透明。上述信息可以被非法分子利用，進而導致神經網絡模型的安全性受到挑戰。

發明內容

本申請提供了一種模型加解密方法，該方法通過在待加密后的神經網絡模型中添加具有混淆作用的第二神經元，使得神經網絡模型的真實結構得到充分隱藏，實現了對神經網絡模型的加密。加密后的神經網絡模型被交付給用戶后，可以根據第二神經元的位置信息將加密后的神經網絡模型中的第二神經元的權重置零，從而實現模型解密。由此實現了針對神經網絡模型的通用保護方案，保障了神經網絡模型的安全性。本申請還提供了上述方法對應的模型管理系統、計算機集群、計算機可讀存儲介質以及計算機程序產品。

第一方面，本申請提供了一種神經網絡模型加密方法。該方法可以由模型管理系統(也稱作模型管理平臺)執行。在一些實施例中，模型管理系統可以是軟件系統。計算設備或計算設備集群通過運行該軟件系統的程序代碼，以執行本申請實施例的模型加密方法。在另一些實施例中，該模型管理系統也可以是用于模型加密的硬件系統。

具體地，模型管理系統獲取神經網絡模型的結構信息，該結構信息包括神經網絡模型中原有的神經元(也稱作第一神經元)的位置信息，模型管理系統還獲取加密密鑰，該加密密鑰用于指示待添加至所述神經網絡模型的至少一個第二神經元的添加方式，模型管理系統可以根據神經網絡模型的結構信息以及上述加密密鑰，向神經網絡模型添加上述至少一個第二神經元，從而獲得加密后的神經網絡模型。加密前和加密后的神經網絡模型具有不同的結構和性能。

該方法通過在神經網絡模型中添加具有混淆作用的第二神經元，使得神經網絡模型的真實結構得到充分隱藏，實現了對神經網絡模型的加密。通過上述第二神經元加密后的神經網絡模型被交付給用戶后，可以根據第二神經元的位置信息將加密后的神經網絡模型中第二神經元的權重置零，即可實現神經網絡模型的解密。在解密過程中，神經網絡模型的真實結構不會被公開，神經網絡模型的安全性得到保障。而且向用戶呈現的神經網絡模型中包括混淆神經元，用戶無法獲知神經網絡模型的真實結構以及權重，也就無法對神經網絡模型進行再次利用，模型開發者的知識產權能夠得到保障。