[發明專利]一種終端部署方法和裝置

有效

• 申請號: 201811150239.1
• 申請日: 2018-09-29
• 公開（公告）號: CN110163367B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 侯金龍;黃俊洲;吳家祥;張堯
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06N3/082
• 分類號: G06N3/082;G06N3/092;G06N3/0985
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 王仲凱

1.一種終端部署方法，其特征在于，應用于服務器，所述方法包括：

獲取終端側提供的待壓縮模型和壓縮偏好配置，所述壓縮偏好配置用于標識所述待壓縮模型被壓縮后具有的性能參數；所述終端側不具備支持部署所述待壓縮模型的能力；所述待壓縮模型被壓縮后具有的性能參數與所述終端側的硬件環境相關，其中，所述待壓縮模型被壓縮后具有的性能參數包括運行速度參數、計算精度參數和所占存儲空間大小參數中至少一種；所述終端側的硬件環境包括終端的數據處理性能和存儲空間；

根據所述待壓縮模型的模型類型和所述壓縮偏好配置，確定第一次壓縮對應的壓縮算法組件和算法超參數取值；

根據第一次壓縮對應的算法超參數取值，通過第一次壓縮對應的壓縮算法組件對所述待壓縮模型進行壓縮，得到第一次壓縮對應的候選壓縮結果；

若第一次壓縮對應的候選壓縮結果的性能參數與所述壓縮偏好配置的符合程度不滿足預設條件，根據確定出的調參策略調整壓縮算法組件和算法超參數取值繼續進行壓縮；其中，第i次壓縮的壓縮對象為第i-1次壓縮得到的候選壓縮結果，第i次壓縮對應的壓縮算法組件和算法超參數取值是根據第i次壓縮對應的調參策略調整得到的，第i次壓縮對應的調參策略是基于第i-1次壓縮對應的候選壓縮結果的性能參數與所述壓縮偏好配置的符合程度確定的；

若第i次壓縮對應的候選壓縮結果的性能參數與所述壓縮偏好配置的符合程度滿足預設條件，將第i次壓縮對應的候選壓縮結果作為所述待壓縮模型的壓縮模型；

將所述壓縮模型部署于所述終端側。

2.根據權利要求1所述的方法，其特征在于，第i次壓縮對應的壓縮算法組件包括至少一類壓縮算法組件；

其中，若第i次壓縮對應的壓縮算法組件包括多類壓縮算法組件，第i次壓縮對應的候選壓縮結果通過下列方式得到：

選取第一個壓縮算法組件，以及對應第一個壓縮算法組件的算法超參數取值對第i-1次壓縮的候選壓縮結果進行壓縮，得到第一壓縮結果；

對于未選取的壓縮算法組件，繼續選取壓縮算法組件進行壓縮；其中，第j個壓縮算法組件對根據第j-1個壓縮算法組件得到的壓縮結果進行壓縮；

將最后一個選取的壓縮算法組件所得到的壓縮結果作為第i次壓縮對應的候選壓縮結果。

3.根據權利要求1所述的方法，其特征在于，第i次壓縮對應的壓縮算法組件和算法超參數取值根據下列方式得到：

確定出符合針對第i次壓縮的調參策略、且與所述模型類型相對應的壓縮算法組件和待調超參數；

根據針對第i次壓縮的調參策略調整所述待調超參數，得到第i次壓縮對應的算法超參數取值。

4.根據權利要求1-3任意一項所述的方法，其特征在于，第i次壓縮對應的壓縮算法組件和算法超參數取值是根據強化學習控制器模型和/或自動機器學習模型對第i次壓縮的調參策略確定得到的；

其中，若第i次壓縮對應的壓縮算法組件和算法超參數取值是根據強化學習控制器模型對第i次壓縮的調參策略確定得到的，第i次壓縮的調參策略包括第i-1次壓縮對應的候選壓縮結果的性能參數與所述壓縮偏好配置的符合程度計算出的獎勵信號；

若第i次壓縮對應的壓縮算法組件和算法超參數取值是根據自動機器學習模型對第i次壓縮的調參策略確定得到的，第i次壓縮的調參策略包括第i-1次壓縮對應的候選壓縮結果的性能參數與所述壓縮偏好配置的符合程度計算出的輸入輸出數據組。

5.根據權利要求4所述的方法，其特征在于，在確定出針對第i次壓縮的調參策略之后，所述方法還包括：

根據第i次壓縮的調參策略調整所述強化學習控制器模型和/或自動機器學習模型中用于確定算法超參數取值的模型參數。

6.根據權利要求1所述的方法，其特征在于，所述方法還包括：

獲取訓練數據、所述模型類型和所述壓縮偏好配置；

根據所述模型類型和所述壓縮偏好配置在搜索空間中搜索，確定出對應所述模型類型和所述壓縮偏好配置的基本網絡模型；

根據所述訓練數據訓練所述基本網絡模型，得到所述待壓縮模型。