[發明專利]多集群式人工智能在線服務方法及系統

有效

• 申請號: 202010310086.3
• 申請日: 2020-04-20
• 公開（公告）號: CN111506367B
• 公開（公告）日: 2023-09-22
• 發明（設計）人: 謝冬鳴;林健
• 申請（專利權）人: 東云睿連（武漢）計算技術有限公司
• 主分類號: G06F9/448
• 分類號: G06F9/448;G06Q10/10;G06Q30/01
• 代理公司: 武漢智正誠專利代理事務所(普通合伙) 42278
• 代理人: 李衛

本發明公開了一種多集群式人工智能在線服務方法及系統，所述方法通過獲取用戶提交的目標作業請求及目標作業，對所述目標作業進行分析，確定所述目標作業的作業運行模式；根據所述作業運行模式確定所述目標作業對應的目標作業集群，以及執行所述目標作業需要的目標網關組件或目標容器；在所述目標作業集群中通過所述目標網關組件或目標容器執行所述目標作業，獲得處理結果并進行反饋，能夠在因安全等各種需求而規劃的多集群部署環境中部署人工智能在線服務，并對最終用戶透明；并在人工智能在線服務中便捷高效地接入外部集群資源，實現了跨集群的安全訪問。

技術領域

本發明涉及分布式系統領域，尤其涉及一種多集群式人工智能在線服務方法及系統。

背景技術

近年來，人工智能技術高速發展，并已被諸多行業廣泛應用；以在線服務方式提供人工智能技術，是技術落地和支撐應用的重要途徑；人工智能服務的在線服務方式既包括公有云、私有云、混合云等云計算模式，也包括傳統的局域網內自建服務模式。

在多集群環境下運行人工智能在線服務有明確的業務需求；然而，人工智能業務及多集群式在線服務環境各自的特點又為這類服務的高效、安全實現帶來了一些問題：人工智能在線服務需要支持批處理和微服務兩大類作業運行模式，以及非實時web界面交互、實時web界面交互、編程訪問API等多種交互模式；不同交互模式具有各自的技術特點，它們對服務軟件架構及通信組件的需求也各不相同；在多集群服務軟件設計時，難以通過一套簡單的機制統一管理；而且，在多集群環境下，各個集群的網絡之間通常不能自由訪問，而要受到一定的規則約束，包括入出站IP范圍約束、協議約束、端口約束、連接持久性約束等；并且，混合云相比一般的多集群環境，還涉及到其他的跨管理域的安全性問題以及多套用戶認證機制共存問題。

上述內容僅用于輔助理解本發明的技術方案，并不代表承認上述內容是現有技術。

發明內容

本發明的主要目的在于提供一種多集群式人工智能在線服務方法及系統，旨在解決現有技術中人工智能作業類型多，與外部交互模式的差異大，且存在權限約束，設計復雜的技術問題。

為實現上述目的，本發明提供一種多集群式人工智能在線服務方法，所述多集群式人工智能在線服務方法包括以下步驟：

獲取用戶提交的目標作業請求及目標作業，對所述目標作業進行分析，確定所述目標作業的作業運行模式；

根據所述作業運行模式確定所述目標作業對應的目標作業集群，以及執行所述目標作業需要的目標網關組件或目標容器；

在所述目標作業集群中通過所述目標網關組件或目標容器執行所述目標作業，獲得處理結果并進行反饋。

優選地，所述獲取用戶提交的目標作業請求及目標作業，對所述目標作業進行分析，確定所述目標作業的作業運行模式，包括：

獲取用戶提交的目標作業請求及目標作業，對所述目標作業進行分析，獲得所述目標作業對應的狀態查詢信息和運行日志查詢信息；

響應于所述狀態查詢信息和所述運行日志查詢信息，接收從本地業務系統獲得的所述目標作業的作業運行模式。

優選地，所述獲取用戶提交的目標作業請求及目標作業，對所述目標作業進行分析，獲得所述目標作業對應的狀態查詢信息和運行日志查詢信息，包括：

獲取用戶提交的目標作業請求及目標作業；

響應于所述目標作業請求在預設日志存儲服務文件系統中查詢與所述目標作業對應的目標文件存儲目錄；

根據所述目標文件存儲目錄獲取所述目標作業對應的狀態查詢信息和運行日志查詢信息。

優選地，所述獲取用戶提交的目標作業請求及目標作業的步驟之后，所述多集群式人工智能在線服務方法還包括：