[發明專利]服務處理方法、裝置以及在線服務系統

在審

• 申請號: 202011462427.5
• 申請日: 2020-12-10
• 公開（公告）號: CN112527318A
• 公開（公告）日: 2021-03-19
• 發明（設計）人: 李晨曦;李年華
• 申請（專利權）人: 北京奇藝世紀科技有限公司
• 主分類號: G06F8/60
• 分類號: G06F8/60;G06F8/65;G06F9/50
• 代理公司: 北京華夏泰和知識產權代理有限公司 11662
• 代理人: 盧萬騰;李曼

1.一種服務處理方法，其特征在于，包括：

在進行在線服務部署時，接收對目標模型的觸發操作，將所述目標模型加載至所述在線服務對應的模型池中；

當接收到針對所述在線服務的應用請求時，從所述模型池中確定與所述應用請求相匹配的第一模型；

利用所述第一模型處理所述應用請求，以提供所述在線服務。

2.根據權利要求1所述的方法，其特征在于，所述將所述目標模型加載至所述在線服務對應的模型池中，包括：

在接收到對目標模型的觸發操作時，觸發在線服務部署請求，所述在線服務部署請求用于指示新增在線服務；

創建部署所述在線服務所需的虛擬環境，將所述在線服務部署至所述虛擬環境中；

在所述虛擬環境進行初始化的過程中將初始的模型池加載至所述在線服務，初始的所述模型池為空；

將所述目標模型加載至初始的所述模型池中。

3.根據權利要求1或2所述的方法，其特征在于，所述將所述目標模型加載至所述在線服務對應的模型池中，包括：

在接收到對目標模型的觸發操作時，觸發在線服務更新請求，所述在線服務更新請求用于指示在所述在線服務中新增模型；

將所述目標模型加載至所述在線服務對應的模型池中。

4.根據權利要求3所述的方法，其特征在于，在所述將所述目標模型加載至所述在線服務對應的模型池中之前，所述方法還包括：

獲取所述在線服務對應的虛擬環境的空閑資源信息；

在所述空閑資源信息滿足預設條件時，執行將所述目標模型加載至所述在線服務對應的模型池中的步驟；

在所述空閑資源信息不滿足預設條件時，停止執行將所述目標模型加載至所述在線服務對應的模型池中的步驟，以及觸發告警提示，所述告警提示用于指示所述空閑資源信息小于所述目標模型的預計資源配額。

5.根據權利要求3所述的方法，其特征在于，所述方法還包括：

在接收到模型刪除指令時，根據所述模型刪除指令從所述模型池中確定待刪除模型；

將所述待刪除模型從所述模型池中刪除。

6.根據權利要求1所述的方法，其特征在于，在所述將所述目標模型加載至所述在線服務對應的模型池中之后，還包括：

在所述在線服務的全局標識信息中添加所述目標模型的模型標識碼和模型對象實例；

所述從所述模型池中確定與所述應用請求相匹配的第一模型，包括：

從所述應用請求中解析出目標模型標識碼；

根據所述目標模型標識碼查找所述在線服務的全局標識信息，得到與所述目標模型標識碼對應的目標模型對象實例；

將所述模型池中，與所述目標模型對象實例對應的模型確定為與所述應用請求相匹配的第一模型。

7.根據權利要求1所述的方法，其特征在于，還包括：

將所述第一模型的累計被訪問次數加1，所述累計被訪問次數的初始值為0；

確定所述第一模型處理所述應用請求的處理用時；

在設定周期到達時，獲取所述在線服務當前已加載的每一模型的累計被訪問次數和平均處理用時；

將所述每一模型的累計被訪問次數和平均處理用時發送至在線服務管理平臺。

8.根據權利要求1所述的方法，其特征在于，還包括：

在設定周期到達時，獲取所述在線服務的至少一項運行參數；

將所述至少一項運行參數發送至在線服務管理平臺。

9.一種在線服務系統，其特征在于，包括：

接口模塊，接收對目標模型的在線服務部署請求；

模型管理模塊，根據所述在線服務部署請求將目標模型加載至在線服務對應的模型池中；

所述模型池，將已加載的所述目標模型封裝在模型實例中，啟動所述目標模型的服務進程。