[發(fā)明專利]基于模型編排的多模型協(xié)作系統(tǒng)及方法

有效

• 申請?zhí)枺?/td>: 202010419296.6
• 申請日: 2020-05-18
• 公開（公告）號: CN111752554B
• 公開（公告）日: 2021-03-12
• 發(fā)明（設計）人: 劉鶴輝;王黎明;李國志;滕華
• 申請（專利權）人: 南京認知物聯(lián)網(wǎng)研究院有限公司
• 主分類號: G06F8/35
• 分類號: G06F8/35;G06N20/00
• 代理公司: 廣州潤禾知識產權代理事務所(普通合伙) 44446
• 代理人: 林偉斌;歐秋望

1.一種基于模型編排的多模型協(xié)作系統(tǒng)，其特征在于，所述系統(tǒng)包括模型庫、第一客戶端和模型管理后臺：

所述模型庫用于存儲若干個標準化模型；

所述第一客戶端用于構建模型編排樹節(jié)點，并將所述模型庫所存儲的所述標準化模型設在所述模型編排樹節(jié)點上以形成模型編排樹；

所述第一客戶端還用于將所述模型編排樹節(jié)點上所設有的所述標準化模型綁定至圖形處理器，以使所述標準化模型采用所綁定的所述圖像處理器運行；

所述模型管理后臺用于根據(jù)所述第一客戶端所形成的所述模型編排樹、所述模型編排樹節(jié)點上所設有的所述標準化模型和所述標準化模型所綁定的所述圖形處理器生成模型調度關系表。

2.根據(jù)權利要求1所述的基于模型編排的多模型協(xié)作系統(tǒng)，其特征在于，所述系統(tǒng)還包括第二客戶端和模型調度引擎，

所述第二客戶端還用于向所述模型調度引擎發(fā)送視覺檢測任務；

所述模型調度引擎用于在接收到所述視覺檢測任務之后，根據(jù)所述模型管理后臺所生成的所述模型調度關系表，從所述模型庫中獲取并調用所述標準化模型以執(zhí)行所述視覺檢測任務，并將所述視覺檢測任務的執(zhí)行結果返回至所述第二客戶端。

3.根據(jù)權利要求2所述的基于模型編排的多模型協(xié)作系統(tǒng)，其特征在于，

所述第二客戶端用于向模型調度引擎發(fā)送視覺檢測任務，具體為：所述第二客戶端用于向模型調度引擎發(fā)送視覺檢測內容以及執(zhí)行所述視覺檢測內容所需調用的所述標準化模型的模型ID；

所述模型調度引擎用于在接收到所述視覺檢測任務之后，根據(jù)所述模型管理后臺所生成的所述模型調度關系表，從所述模型庫中獲取并調用所述標準化模型以執(zhí)行所述視覺檢測任務，具體為：所述模型調度引擎用于在接收到所述視覺檢測內容和所述模型ID之后，根據(jù)所述模型管理后臺所生成的所述模型調度關系表，從所述模型庫中獲取并調用所述模型ID對應的所述標準化模型以執(zhí)行所述視覺檢測內容。

4.根據(jù)權利要求3所述的基于模型編排的多模型協(xié)作系統(tǒng)，其特征在于，所述模型庫為模型鏡像倉庫；

所述第一客戶端還用于向所述模型管理后臺上傳若干個標準化模型；

所述模型管理后臺還用于在接收到所述第一客戶端上傳的所述標準化模型之后，生成所述標準化模型的鏡像文件，將所述鏡像文件存儲至所述鏡像倉庫；

所述模型調度引擎用于根據(jù)所述模型管理后臺所生成的所述模型調度關系表，從所述模型庫中獲取并調用所述模型ID對應的所述標準化模型以執(zhí)行所述視覺檢測內容，具體為：所述模型調度引擎根據(jù)所述模型管理后臺所生成的所述模型調度關系表，從所述模型鏡像倉庫中拉取并啟動所述模型ID對應的所述標準化模型的鏡像文件以執(zhí)行所述視覺檢測內容。

5.根據(jù)權利要求4所述的基于模型編排的多模型協(xié)作系統(tǒng)，其特征在于，

所述第一客戶端還用于向所述模型管理后臺上傳所述鏡像文件對應的運行測試任務；

所述模型管理后臺還用于在接收到所述鏡像文件對應的運行測試任務并且在生成所述標準化模型的鏡像文件之后，啟動所生成的所述鏡像文件以執(zhí)行所述運行測試任務，并將所述運行測試任務的執(zhí)行結果返回至所述第一客戶端；

所第一述客戶端還用于在接收到所述運行測試任務的執(zhí)行結果之后，根據(jù)所述運行測試任務的執(zhí)行結果判斷所述鏡像文件是否成功執(zhí)行所述運行測試任務；

所述模型管理后臺還用于當所述第一客戶端判定所述鏡像文件成功執(zhí)行所述運行測試任務時，將所述鏡像文件存儲至所述模型鏡像倉庫。

6.根據(jù)權利要求4或5任一項所述的基于模型編排的多模型協(xié)作系統(tǒng)，其特征在于，所述模型管理后臺還用于在接收到所述第一客戶端上傳的所述標準化模型之后、生成所述標準化模型的鏡像文件之前，對接收到的所述標準化模型的接口進行Restful封裝。

7.根據(jù)權利要求2、3、4、5任一項所述的基于模型編排的多模型協(xié)作系統(tǒng)，其特征在于，所述第一客戶端和所述第二客戶端為同一客戶端。