[發(fā)明專利]服務(wù)處理方法、裝置以及在線服務(wù)系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202011462427.5
• 申請(qǐng)日: 2020-12-10
• 公開（公告）號(hào): CN112527318A
• 公開（公告）日: 2021-03-19
• 發(fā)明（設(shè)計(jì)）人: 李晨曦;李年華
• 申請(qǐng)（專利權(quán)）人: 北京奇藝世紀(jì)科技有限公司
• 主分類號(hào): G06F8/60
• 分類號(hào): G06F8/60;G06F8/65;G06F9/50
• 代理公司: 北京華夏泰和知識(shí)產(chǎn)權(quán)代理有限公司 11662
• 代理人: 盧萬騰;李曼

本發(fā)明實(shí)施例涉及一種服務(wù)處理方法、裝置以及在線服務(wù)系統(tǒng)，包括：在進(jìn)行在線服務(wù)部署時(shí)，接收對(duì)目標(biāo)模型的觸發(fā)操作，將所述目標(biāo)模型加載至所述在線服務(wù)對(duì)應(yīng)的模型池中；當(dāng)接收到針對(duì)所述在線服務(wù)的應(yīng)用請(qǐng)求時(shí)，從所述模型池中確定與所述應(yīng)用請(qǐng)求相匹配的第一模型；利用所述第一模型處理所述應(yīng)用請(qǐng)求，以提供所述在線服務(wù)。由此，可以實(shí)現(xiàn)在一個(gè)在線服務(wù)中加載多個(gè)模型，實(shí)現(xiàn)了在線服務(wù)不下線的情況下也能夠動(dòng)態(tài)更新模型，以避免現(xiàn)有技術(shù)中更新模型時(shí)需要進(jìn)行新舊服務(wù)替換從而導(dǎo)致在線服務(wù)一段時(shí)間內(nèi)不可用，影響用戶體驗(yàn)的問題。

技術(shù)領(lǐng)域

本發(fā)明實(shí)施例涉及互聯(lián)網(wǎng)技術(shù)領(lǐng)域，尤其涉及一種服務(wù)處理方法、裝置以及在線服務(wù)系統(tǒng)。

背景技術(shù)

目前，部署在線服務(wù)時(shí)，首先選定一個(gè)用于提供在線服務(wù)的模型，比如預(yù)測(cè)模型，之后，針對(duì)該模型部署一個(gè)在線服務(wù)。在模型更新，比如版本升級(jí)后，則針對(duì)更新后的模型再部署一個(gè)在線服務(wù)。在該新的在線服務(wù)(以下簡(jiǎn)稱新服務(wù))部署完成后，下線之前的在線服務(wù)(以下簡(jiǎn)稱舊服務(wù))并上線新服務(wù)。

由此可見，現(xiàn)有的在線服務(wù)是基于一個(gè)模型部署的，當(dāng)模型更新時(shí)，則需要重新部署在線服務(wù)，過程繁雜，并且涉及到新、舊服務(wù)切換，如此將導(dǎo)致在線服務(wù)在一段時(shí)間內(nèi)不可用，影響用戶體驗(yàn)。

發(fā)明內(nèi)容

鑒于此，為解決上述當(dāng)模型更新時(shí)需要重新部署在線服務(wù)，導(dǎo)致過程繁雜且在線服務(wù)在一段時(shí)間內(nèi)不可用，影響用戶體驗(yàn)的技術(shù)問題，本發(fā)明實(shí)施例提供一種服務(wù)處理方法、裝置以及在線服務(wù)系統(tǒng)。

第一方面，本發(fā)明實(shí)施例提供一種服務(wù)處理方法，包括：

在進(jìn)行在線服務(wù)部署時(shí)，接收對(duì)目標(biāo)模型的觸發(fā)操作，將所述目標(biāo)模型加載至所述在線服務(wù)對(duì)應(yīng)的模型池中；

當(dāng)接收到針對(duì)所述在線服務(wù)的應(yīng)用請(qǐng)求時(shí)，從所述模型池中確定與所述應(yīng)用請(qǐng)求相匹配的第一模型；

利用所述第一模型處理所述應(yīng)用請(qǐng)求，以提供所述在線服務(wù)。

在一可能的實(shí)施方式中，所述將所述目標(biāo)模型加載至所述在線服務(wù)對(duì)應(yīng)的模型池中，包括：

在接收到對(duì)目標(biāo)模型的觸發(fā)操作時(shí)，觸發(fā)在線服務(wù)部署請(qǐng)求，所述在線服務(wù)部署請(qǐng)求用于指示新增在線服務(wù)；

創(chuàng)建部署所述在線服務(wù)所需的虛擬環(huán)境，將所述在線服務(wù)部署至所述虛擬環(huán)境中；

在所述虛擬環(huán)境進(jìn)行初始化的過程中將初始的模型池加載至所述在線服務(wù)，初始的所述模型池為空；

將所述目標(biāo)模型加載至初始的所述模型池中。

在一可能的實(shí)施方式中，所述將所述目標(biāo)模型加載至所述在線服務(wù)對(duì)應(yīng)的模型池中，包括：

在接收到對(duì)目標(biāo)模型的觸發(fā)操作時(shí)，觸發(fā)在線服務(wù)更新請(qǐng)求，所述在線服務(wù)更新請(qǐng)求用于指示在所述在線服務(wù)中新增模型；

將所述目標(biāo)模型加載至所述在線服務(wù)對(duì)應(yīng)的模型池中。

在一可能的實(shí)施方式中，在所述將所述目標(biāo)模型加載至所述在線服務(wù)對(duì)應(yīng)的模型池中之前，所述方法還包括：

獲取所述在線服務(wù)對(duì)應(yīng)的虛擬環(huán)境的空閑資源信息；

在所述空閑資源信息滿足預(yù)設(shè)條件時(shí)，執(zhí)行將所述目標(biāo)模型加載至所述在線服務(wù)對(duì)應(yīng)的模型池中的步驟；

在所述空閑資源信息不滿足預(yù)設(shè)條件時(shí)，停止執(zhí)行將所述目標(biāo)模型加載至所述在線服務(wù)對(duì)應(yīng)的模型池中的步驟，以及觸發(fā)告警提示，所述告警提示用于指示所述空閑資源信息小于所述目標(biāo)模型的預(yù)計(jì)資源配額。

在一可能的實(shí)施方式中，所述方法還包括：

在接收到模型刪除指令時(shí)，根據(jù)所述模型刪除指令從所述模型池中確定待刪除模型；

將所述待刪除模型從所述模型池中刪除。