[發明專利]模型部署方法、系統、芯片、電子設備及介質

在審

• 申請號: 202010064768.0
• 申請日: 2020-01-20
• 公開（公告）號: CN111178517A
• 公開（公告）日: 2020-05-19
• 發明（設計）人: 黃文豪;黃杰;楊忠程
• 申請（專利權）人: 上海依圖網絡科技有限公司
• 主分類號: G06N3/06
• 分類號: G06N3/06;G06N3/08;G06N20/00
• 代理公司: 上海市匯業律師事務所 31325
• 代理人: 唐嘉偉

1.一種模型部署方法，其特征在于，包括：

S1，獲得欲轉換的網絡模型的訓練結果；

S2，對于訓練結果進行拆分；

S3，在數據庫中查找拆分后的結果，并轉換代碼；

S4，將轉換完成的模型代碼重新連接，得部署模型；

S5，以測試數據對欲轉換的網絡模型和欲部署硬件環境下的部署模型提取特征層，依次對應計算兩兩之間的給定向量距離；若其差小于預設閾值，則認為結果對齊，并輸出可部署的模型作為轉換結果。

2.根據權利要求1所述的模型部署方法，其特征在于：S2中，所述拆分按照訓練結果的網絡結構進行。

3.根據權利要求2所述的模型部署方法，其特征在于：所述網絡結構為計算層或子結構。

4.根據權利要求1-3任一所述的模型部署方法，其特征在于：S2中，若拆分時識別發現有數據庫中預設的結構，則保存該預設的結構；部署時則根據所保存的預設的結構選擇轉換方法。

5.根據權利要求1所述的模型部署方法，其特征在于：S3中，所述查找以查表方式進行，以獲得代碼。

6.一種模型部署系統，其特征在于，包括：

數據預處理模塊，接受回流數據，然后輸出經過預處理的數據集；

模型訓練模塊，對數據集執行訓練優化，得到最優配置模型；

模型部署模塊，根據待部署的硬件的環境執行權利要求1-6中任一所述的模型部署方法，對最優配置模型進行適配并轉換，最終部署于所述硬件。

7.根據權利要求6所述的模型部署系統，其特征在于：還包括數據標注模塊，對輔助進行數據標注。

8.一種芯片，其特征在于，包括處理器，用于從存儲器中調用并運行計算機程序，使得安裝有所述芯片的設備執行權利要求1-5中任一項所述的模型部署方法。

9.一種電子設備，其特征在于：包括處理器、以及用于存儲處理器的可執行指令的存儲器，所述處理器運行時執行權利要求1-5中任一所述的模型部署方法。

10.一種計算機可讀介質，其特征在于：其上存儲有計算機程序指令，所述計算機程序指令被處理執行時，實現權利要求1-5中任一所述的模型部署方法。