[發明專利]業務場景驅動的視覺洞察支撐系統、客戶端和方法

有效

• 申請號: 202010419321.0
• 申請日: 2020-05-18
• 公開（公告）號: CN111752555B
• 公開（公告）日: 2021-08-20
• 發明（設計）人: 劉鶴輝;王黎明;李國志;滕華
• 申請（專利權）人: 南京認知物聯網研究院有限公司
• 主分類號: G06F8/35
• 分類號: G06F8/35
• 代理公司: 廣州潤禾知識產權代理事務所(普通合伙) 44446
• 代理人: 林偉斌;歐秋望

本發明公開了業務場景驅動的視覺洞察支撐系統、客戶端和方法，所述系統包括模型庫、模型管理后臺和業務場景管理模塊：所述模型庫用于存儲若干個標準化模型；所述模型管理后臺用于根據編排客戶端所構建的模型編排樹、對應同一個模型編排樹的節點上編排客戶端所設置的標準化模型，以及對應同一個模型編排樹編排客戶端綁定于標準化模型的圖形處理器生成模型調度關系表；業務場景管理模塊用于根據由編排客戶端所關聯的若干個模型調度關系表生成業務場景；利用該系統可供客戶端針對不同的業務場景以及模型編排對模型進行調用，當客戶端需要更改模型調度順序或調用場景時，只需完成新的模型編排樹或重新關聯模型調度關系表，無需通過修改代碼實現。

技術領域

本發明涉及領域，更具體地，涉及業務場景驅動的視覺洞察支撐系統、客戶端和方法。

背景技術

目前機器學習應用的開發過程基本都是準備數據，選擇模型，調整優化模型，最后上線供外部應用調用。通常都是基于豎井式的方法進行模型應用開發，將基于場景的數據輸入輸出處理、模型調度邏輯、模型算法、算法執行框架等幾個層面的技術以及代碼邏輯強綁定，形成一個不可分割的完整模塊，從而導致整個應用場景的計算、模型、調度、數據全部都綁定在一起。而這樣的模型應用開發方案中，存在著以下的缺陷：

（1）基于業務場景建模的數據模型與圖片數據、算法糅合在一起，導致業務建模一旦變動，算法的調度邏輯和算法本身也需要變動，由此容易出錯，且開發效率低；

（2）整個方案與特定的模型執行框架（caffee或者mmdection）綁定在一起，升級改造難度大，成本高，難以適應現有深度學習模型框架快速發展變化的技術背景；

（3）整個方案的代碼邏輯融合在一起，一旦某個或某些模型需要更新，則需要全部停機，無法實現模型的在線更新維護；

（4）如涉及到多個模型一起參與計算的場景下，通常是把多個模型合并到一起進行調用，或者是分開地逐一通過API進行不同模型的調用，當需要部分更換模型時，只能去修改代碼，進行整體版本的迭代；

（5）沒有獨立出來形成一個通用的模型調度引擎，每拿到一個新的模型，開發、訓練好就直接集成使用，需要更新或者替換的時候牽扯到代碼很多地方，效率低下，同時每次在應用到新的場景時，整個方案都得從頭到尾重新開發、測試、部署，耗費人力和時間。

發明內容

本發明旨在克服上述現有技術的至少一種缺陷，提供業務場景驅動的視覺洞察支撐系統、客戶端和方法，用于解決現有模型集成使用后在需要根據不同的業務場景調用和更替模型過程中的不便和繁瑣的問題。

本發明提供的方案為：

一種業務場景驅動的視覺洞察支撐系統，所述系統包括模型庫、模型管理后臺和業務場景管理模塊：所述模型庫用于存儲若干個標準化模型；所述模型管理后臺用于根據編排客戶端所構建的模型編排樹、對應同一個所述模型編排樹的節點上所述編排客戶端所設置的標準化模型，以及對應同一個所述模型編排樹所述編排客戶端綁定于所述標準化模型的圖形處理器生成模型調度關系表；一個所述模型編排樹對應一個所述模型調度關系表；所述業務場景管理模塊用于根據由所述編排客戶端所關聯的若干個所述模型調度關系表生成業務場景。

本發明提供的系統供編排客戶端或其他客戶端使用，編排客戶端會利用模型編排樹對模型庫中的若干個標準化模型進行編排，標準化模型指已進行輸入和輸出格式標準化的模型，模型編排樹上包括若干個編排樹節點，編排客戶端可利用節點之間的順序關系從而編排模型執行的順序關系，例如兩個標準化模型所在的兩個節點為前后順序關系，則兩個標準化模型的執行次序為前后順序執行。編排客戶端在完成編排后會將標準化模型與執行該模型的圖形處理器進行綁定。系統中的模型管理后臺會根據該模型編排樹、模型編排樹節點上的標準化模型以及模型所綁定的圖形處理器生成模型調度關系表，該表中包含了模型編排樹的樹形結構，模型編排樹中每一個節點對應的標準化模型，以及執行模型編排樹時所需的圖形處理器。