[發(fā)明專利]多集群式人工智能在線服務(wù)方法及系統(tǒng)

有效

• 申請?zhí)枺?/td>: 202010310086.3
• 申請日: 2020-04-20
• 公開（公告）號: CN111506367B
• 公開（公告）日: 2023-09-22
• 發(fā)明（設(shè)計）人: 謝冬鳴;林健
• 申請（專利權(quán)）人: 東云睿連（武漢）計算技術(shù)有限公司
• 主分類號: G06F9/448
• 分類號: G06F9/448;G06Q10/10;G06Q30/01
• 代理公司: 武漢智正誠專利代理事務(wù)所(普通合伙) 42278
• 代理人: 李衛(wèi)

1.一種多集群式人工智能在線服務(wù)方法，其特征在于，所述多集群式人工智能在線服務(wù)方法包括：

獲取用戶提交的目標(biāo)作業(yè)請求及目標(biāo)作業(yè)，對所述目標(biāo)作業(yè)進行分析，確定所述目標(biāo)作業(yè)的作業(yè)運行模式；

根據(jù)所述作業(yè)運行模式確定所述目標(biāo)作業(yè)對應(yīng)的目標(biāo)作業(yè)集群，以及執(zhí)行所述目標(biāo)作業(yè)需要的目標(biāo)網(wǎng)關(guān)組件或目標(biāo)容器；

在所述目標(biāo)作業(yè)集群中通過所述目標(biāo)網(wǎng)關(guān)組件或目標(biāo)容器執(zhí)行所述目標(biāo)作業(yè)，獲得處理結(jié)果并進行反饋；

其中，所述根據(jù)所述作業(yè)運行模式確定所述目標(biāo)作業(yè)對應(yīng)的目標(biāo)作業(yè)集群，以及執(zhí)行所述目標(biāo)作業(yè)需要的目標(biāo)網(wǎng)關(guān)組件或目標(biāo)容器，包括：

在所述作業(yè)運行模式為批處理作業(yè)模式時，確定所述目標(biāo)作業(yè)對應(yīng)的目標(biāo)作業(yè)集群為運行批處理作業(yè)的作業(yè)集群，以及執(zhí)行所述目標(biāo)作業(yè)需要的目標(biāo)網(wǎng)關(guān)組件為日志網(wǎng)關(guān)組件，或目標(biāo)容器為批處理作業(yè)容器；

在所述作業(yè)運行模式為微服務(wù)作業(yè)模式時，確定所述目標(biāo)作業(yè)對應(yīng)的目標(biāo)作業(yè)集群為運行微服務(wù)作業(yè)的作業(yè)集群，以及執(zhí)行所述目標(biāo)作業(yè)需要的目標(biāo)網(wǎng)關(guān)組件為代理轉(zhuǎn)發(fā)組件，或目標(biāo)容器為微服務(wù)作業(yè)容器；

其中，所述在所述目標(biāo)作業(yè)集群中通過所述目標(biāo)網(wǎng)關(guān)組件或目標(biāo)容器執(zhí)行所述目標(biāo)作業(yè)，獲得處理結(jié)果并進行反饋，包括：

在所述運行批處理作業(yè)的作業(yè)集群中通過所述日志網(wǎng)關(guān)組件或所述批處理作業(yè)容器處理所述目標(biāo)作業(yè)，獲得處理結(jié)果，并將所述處理結(jié)果反饋至終端用戶；

在所述運行微服務(wù)作業(yè)的作業(yè)集群中通過所述代理轉(zhuǎn)發(fā)組件或所述微服務(wù)作業(yè)容器處理所述目標(biāo)作業(yè)，獲得處理結(jié)果，并將所述處理結(jié)果反饋至終端用戶；

其中，所述目標(biāo)作業(yè)集群以Kubernetes容器編排服務(wù)實現(xiàn)。

2.如權(quán)利要求1所述的多集群式人工智能在線服務(wù)方法，其特征在于，所述獲取用戶提交的目標(biāo)作業(yè)請求及目標(biāo)作業(yè)，對所述目標(biāo)作業(yè)進行分析，確定所述目標(biāo)作業(yè)的作業(yè)運行模式，包括：

獲取用戶提交的目標(biāo)作業(yè)請求及目標(biāo)作業(yè)，對所述目標(biāo)作業(yè)進行分析，獲得所述目標(biāo)作業(yè)對應(yīng)的狀態(tài)查詢信息和運行日志查詢信息；

響應(yīng)于所述狀態(tài)查詢信息和所述運行日志查詢信息，接收從本地業(yè)務(wù)系統(tǒng)獲得的所述目標(biāo)作業(yè)的作業(yè)運行模式。

3.如權(quán)利要求2所述的多集群式人工智能在線服務(wù)方法，其特征在于，所述獲取用戶提交的目標(biāo)作業(yè)請求及目標(biāo)作業(yè)，對所述目標(biāo)作業(yè)進行分析，獲得所述目標(biāo)作業(yè)對應(yīng)的狀態(tài)查詢信息和運行日志查詢信息，包括：

獲取用戶提交的目標(biāo)作業(yè)請求及目標(biāo)作業(yè)；

響應(yīng)于所述目標(biāo)作業(yè)請求在預(yù)設(shè)日志存儲服務(wù)文件系統(tǒng)中查詢與所述目標(biāo)作業(yè)對應(yīng)的目標(biāo)文件存儲目錄；

根據(jù)所述目標(biāo)文件存儲目錄獲取所述目標(biāo)作業(yè)對應(yīng)的狀態(tài)查詢信息和運行日志查詢信息。

4.如權(quán)利要求3所述的多集群式人工智能在線服務(wù)方法，其特征在于，所述獲取用戶提交的目標(biāo)作業(yè)請求及目標(biāo)作業(yè)的步驟之后，所述多集群式人工智能在線服務(wù)方法還包括：

獲取所述目標(biāo)作業(yè)請求對應(yīng)的用戶信息，通過預(yù)設(shè)身份認(rèn)證組件對所述用戶信息進行身份認(rèn)證；

在身份認(rèn)證通過時，允許執(zhí)行響應(yīng)于所述目標(biāo)作業(yè)請求在預(yù)設(shè)日志存儲服務(wù)文件系統(tǒng)中查詢與所述目標(biāo)作業(yè)對應(yīng)的目標(biāo)文件存儲目錄的步驟；

在身份認(rèn)證未通過時，禁止響應(yīng)所述目標(biāo)作業(yè)請求，并反饋認(rèn)證失敗信息。

5.如權(quán)利要求1-4中任一項所述的多集群式人工智能在線服務(wù)方法，其特征在于，所述在所述目標(biāo)作業(yè)集群中通過所述目標(biāo)網(wǎng)關(guān)組件或目標(biāo)容器執(zhí)行所述目標(biāo)作業(yè)，獲得處理結(jié)果并進行反饋之前，所述多集群式人工智能在線服務(wù)方法還包括：

根據(jù)預(yù)設(shè)轉(zhuǎn)發(fā)規(guī)則或動態(tài)轉(zhuǎn)發(fā)規(guī)則將所述目標(biāo)作業(yè)轉(zhuǎn)發(fā)至所述目標(biāo)作業(yè)集群。

6.一種多集群式人工智能在線服務(wù)系統(tǒng)，其特征在于，所述多集群式人工智能在線服務(wù)系統(tǒng)包括：

分析模塊，用于獲取用戶提交的目標(biāo)作業(yè)請求及目標(biāo)作業(yè)，對所述目標(biāo)作業(yè)進行分析，確定所述目標(biāo)作業(yè)的作業(yè)運行模式；

組件確定模塊，用于根據(jù)所述作業(yè)運行模式確定所述目標(biāo)作業(yè)對應(yīng)的目標(biāo)作業(yè)集群，以及執(zhí)行所述目標(biāo)作業(yè)需要的目標(biāo)網(wǎng)關(guān)組件或目標(biāo)容器；

執(zhí)行模塊，用于在所述目標(biāo)作業(yè)集群中通過所述目標(biāo)網(wǎng)關(guān)組件或目標(biāo)容器執(zhí)行所述目標(biāo)作業(yè)，獲得處理結(jié)果并進行反饋；

所述組件確定模塊，包括：

批處理組件模塊，用于在所述作業(yè)運行模式為批處理作業(yè)模式時，確定所述目標(biāo)作業(yè)對應(yīng)的目標(biāo)作業(yè)集群為運行批處理作業(yè)的作業(yè)集群，以及執(zhí)行所述目標(biāo)作業(yè)需要的目標(biāo)網(wǎng)關(guān)組件為日志網(wǎng)關(guān)組件，或目標(biāo)容器為批處理作業(yè)容器；

微服務(wù)組件模塊，用于在所述作業(yè)運行模式為微服務(wù)作業(yè)模式時，確定所述目標(biāo)作業(yè)對應(yīng)的目標(biāo)作業(yè)集群為運行微服務(wù)作業(yè)的作業(yè)集群，以及執(zhí)行所述目標(biāo)作業(yè)需要的目標(biāo)網(wǎng)關(guān)組件為代理轉(zhuǎn)發(fā)組件，或目標(biāo)容器為微服務(wù)作業(yè)容器；

所述執(zhí)行模塊，包括：

批處理執(zhí)行模塊，用于在所述運行批處理作業(yè)的作業(yè)集群中通過所述日志網(wǎng)關(guān)組件或所述批處理作業(yè)容器處理所述目標(biāo)作業(yè)，獲得處理結(jié)果，并將所述處理結(jié)果反饋至終端用戶；

微服務(wù)執(zhí)行模塊，用于在所述運行微服務(wù)作業(yè)的作業(yè)集群中通過所述代理轉(zhuǎn)發(fā)組件或所述微服務(wù)作業(yè)容器處理所述目標(biāo)作業(yè)，獲得處理結(jié)果，并將所述處理結(jié)果反饋至終端用戶；

所述組件確定模塊，還用于所述目標(biāo)作業(yè)集群運行在Kubernetes之上，所述目標(biāo)網(wǎng)關(guān)組件或所述目標(biāo)容器以Docker容器形式運行于Kubernetes之上。