[發明專利]一種模型加載方法、裝置、可讀存儲介質及電子設備

有效

• 申請號: 202110476549.8
• 申請日: 2021-04-29
• 公開（公告）號: CN113190877B
• 公開（公告）日: 2022-10-04
• 發明（設計）人: 李恭政
• 申請（專利權）人: 網易(杭州)網絡有限公司
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06N3/08
• 代理公司: 北京超凡宏宇專利代理事務所(特殊普通合伙) 11463
• 代理人: 鐘揚飛

本申請涉及網絡安全技術領域，尤其涉及一種模型加載方法、裝置、可讀存儲介質及電子設備。本申請通過將解密后的目標模型文件寫入對用戶設備不可見的內存儲器中，可以防止目標模型文件被泄露，進而提升目標模型文件的保密性，進一步地，針對用戶設備使用的不同目標部署語言，可以采用該目標部署語言適配的調用方式將解密后的目標模型文件從內存儲器中調用出來，采用這樣的方式，可以不受深度學習框架部署場景的限制，即使當前深度學習框架不支持從內存儲器中加載模型，通過設計的不同部署語言的調用方式來實現對目標模型的加載，可以提升模型加載針對語言和深度學習框架的通用性。

技術領域

本申請涉及網絡安全技術領域，尤其涉及一種模型加載方法、裝置、可讀存儲介質及電子設備。

背景技術

深度學習是人工智能中重要的研究方向，在部署深度學習應用的同時也需要部署相應的模型，比如，在終端部署、公有云部署、私有化方案部署等，但是，在部署模型時模型存在泄露的風險，因此，在這些部署場景下均有對模型加密的需求。

現階段，模型加密面臨著三個難點：第一、模型訓練和部署的時，一般采用的是開源方案，而開源方案由于其代碼的可見性，很難做到真正的加密；第二、模型加密的通用性需求，需要對多種深度學習框架的模型進行加密(如同時滿足pytorch和openvino兩種框架模型)，也可能是需要對同種深度學習框架下的不同文件(如模型描述文件和模型權重文件)進行加密；第三、為了降低部署難度，往往會選擇直接使用訓練時的python語言，而python作為一種腳本語言，具有人類可讀性，通用模型加密需要考慮到如何支持python作為部署語言的情況。

綜上，找出一種在任何深度學習框架的部署場景下，可以做到對模型文件進行通用性的加密，保證模型加載不受部署框架、部署語言(c++/python)、部署場景(服務器或者終端設備)的約束，以保證模型文件的高安全性是目前亟待解決的問題。

發明內容

有鑒于此，本申請實施例至少提供一種模型加載方法、裝置、可讀存儲介質及電子設備，提升目標模型文件的保密性通過設計的不同部署語言的調用方式來實現對目標模型的加載，可以提升模型加載針對不同語言的通用性。

本申請主要包括以下幾個方面：

第一方面，本申請實施例提供一種模型加載方法，所述模型加載方法包括：

在接收到用戶設備發送的針對目標模型文件的加載請求時，根據所述加載請求中攜帶的第一密鑰對加密后的所述目標模型文件進行解密；

若解密成功，將解密后的所述目標模型文件寫入內存儲器中；所述內存儲器中存儲的內容對所述用戶設備不可見；

采用所述用戶設備使用的目標部署語言對應的調用方式，將解密后的所述目標模型文件從所述內存儲器中調用出來，并根據調用出的所述目標模型文件生成目標應用程序接口；

將所述目標應用程序接口提供給所述用戶設備，以供所述用戶設備運行目標模型。

在一種可能的實施方式中，若所述目標部署語言為python語言；所述采用所述用戶設備使用的目標部署語言對應的調用方式，將解密后的所述目標模型文件從所述內存儲器中調用出來，包括：

使用BytesIO方法將所述內存儲器中解密后的所述目標模型文件轉換成虛擬磁盤中的文件，將解密后的所述目標模型文件從所述虛擬磁盤中讀取出來。

在一種可能的實施方式中，若所述目標部署語言為c++語言；所述采用所述用戶設備使用的目標部署語言對應的調用方式，將解密后的所述目標模型文件從所述內存儲器中調用出來，包括：

判斷所述目標模型文件所使用的深度學習框架，是否支持從所述內存儲器中讀取所述目標模型文件；

若支持，則根據解密后的目標模型文件的存儲地址，將解密后的所述目標模型文件從所述內存儲器中讀取出來；