[發明專利]基于算法服務平臺的控制方法、裝置、設備及存儲介質

在審

• 申請號: 202210040552.X
• 申請日: 2022-01-14
• 公開（公告）號: CN114490122A
• 公開（公告）日: 2022-05-13
• 發明（設計）人: 許洋;劉鵬
• 申請（專利權）人: 平安科技（深圳）有限公司
• 主分類號: G06F9/54
• 分類號: G06F9/54;G06F9/50
• 代理公司: 深圳國新南方知識產權代理有限公司 44374
• 代理人: 李小東

本發明涉及人工智能及數字醫療領域，具體公開了一種基于算法服務平臺的控制方法、裝置、設備及存儲介質。該方法包括：構建算法服務平臺，算法服務平臺包括Web服務層、消息隊列層以及算法引擎層，消息隊列層包括多個消息列表，算法引擎層包括多個算法引擎，建立每個算法引擎與相同算法類型的消息列表之間的連接；控制算法引擎層主動向相同算法類型的消息列表發送獲取任務請求并實時監聽消息列表中是否存在算法任務；若消息列表存在算法任務，則控制消息隊列層發送算法任務給算法引擎層；若消息列表不存在算法任務，則控制算法引擎層持續監聽消息列表直到獲取到算法任務為止。通過上述方式，本發明能夠解耦消息隊列，提高數據處理效率。

技術領域

本發明涉及人工智能及數字醫療技術領域，特別是涉及一種基于算法服務平臺的控制方法、裝置、設備及存儲介質。

背景技術

算法服務平臺一般包含兩個大部分：web服務平臺層和算法引擎層， web服務平臺整合各個算法服務(例如，OCR證件識別、人臉識別、車輛定損等)，對外提供http接口供用戶調用，每個算法服務有不同的http 接口地址，用戶通過調用不同的http接口得到不同算法能力的結果。

現有的web服務平臺與各個算法服務比較耦合，算法服務本身也是 http/rpc服務，web服務平臺通過http/rpc方式結合負載均衡(一般使用 nginx)調用后端的算法服務，這種算法服務系統如果某種算法能力需要橫向擴容/縮容，則需要配置負載均衡將新擴容的引擎納入，笨重且不太靈活，頻繁地擴容/縮容導致頻繁地配置變更，不易于管理，不易于回退。另外，負載均衡策略不實用，常見的負載均衡有輪詢、最小連接等，如果碰到某些請求算法耗時比預計時長要長的情況，很容易導致各個引擎負載的不均衡。

發明內容

本發明提供一種基于算法服務平臺的控制方法、裝置、設備及存儲介質，能夠解耦消息隊列，提高數據處理效率，解決傳統的負載均衡策略導致的處理請求耗時長，效率低的問題。

為解決上述技術問題，本發明采用的一個技術方案是：提供一種基于算法服務平臺的控制方法，包括：

構建算法服務平臺，所述算法服務平臺包括Web服務層、消息隊列層以及算法引擎層，所述消息隊列層包括多個消息列表，所述算法引擎層包括多個算法引擎，建立每個所述算法引擎與相同算法類型的所述消息列表之間的連接；

控制所述算法引擎層主動向相同算法類型的所述消息列表發送獲取任務請求并實時監聽所述消息列表中是否存在算法任務；

若所述消息列表存在所述算法任務，則控制所述消息隊列層發送所述算法任務給所述算法引擎層；

若所述消息列表不存在所述算法任務，則控制所述算法引擎層持續監聽所述消息列表直到獲取到所述算法任務為止。

根據本發明的一個實施例，所述控制算法引擎層主動向相同算法類型的所述消息列表發送獲取任務請求并實時監聽所述消息列表中是否存在算法任務還包括：

控制所述算法引擎層實時監測每個所述算法引擎執行上一算法任務的狀態；

當所述算法引擎層監測到所述算法引擎執行完上一個算法任務時，控制所述算法引擎層主動向所述消息隊列層發送獲取任務請求；

所述消息隊列層接收所述獲取任務請求后，控制所述消息隊列層從所述獲取任務請求中獲取算法類型，將具有相同算法類型的消息列表確定為目標消息列表并檢測所述目標消息列表中是否存在新的算法任務。

根據本發明的一個實施例，所述若所述消息列表不存在所述算法任務之后，還包括：

控制所述消息隊列層在預設時間閾值內檢測是否有新的算法任務加入所述消息列表中；

若在所述預設時間閾值內有新的算法任務加入所述消息列表中，則控制所述消息隊列層將新的算法任務給所述算法引擎層。