[發明專利]模型集成方法、裝置、服務器和計算機可讀存儲介質

有效

• 申請號: 202110227581.2
• 申請日: 2021-03-01
• 公開（公告）號: CN112906803B
• 公開（公告）日: 2022-11-01
• 發明（設計）人: 楊杭
• 申請（專利權）人: 重慶紫光華山智安科技有限公司
• 主分類號: G06V10/94
• 分類號: G06V10/94;G06V10/764
• 代理公司: 北京超凡宏宇專利代理事務所(特殊普通合伙) 11463
• 代理人: 衡滔

1.一種模型集成方法，其特征在于，應用于服務器，所述服務器預先存儲有模型文件及模型文件配置表，所述模型文件包括多個模型，所述模型文件配置表用于記錄每個所述模型在所述模型文件中的位置；所述方法包括：

獲取視頻流分析任務對應的任務參數；所述任務參數用于指定待集成的目標模型；

根據所述任務參數和所述模型文件配置表，從所述模型文件中讀取出所述目標模型；

將所述目標模型加載到推理卡上，并生成所述目標模型對應的算子引擎；

根據所述任務參數和所述算子引擎生成引擎管道，以通過所述引擎管道對輸入的視頻流數據進行處理；

所述服務器中還預先設置有算子引擎倉庫，所述算子引擎倉庫用于存放生成的算子引擎；在獲取視頻流分析任務對應的任務參數之后，所述方法還包括：

若所述算子引擎倉庫中存在所述目標模型對應的算子引擎，則從所述算子引擎倉庫中獲取所述目標模型對應的算子引擎以便生成引擎管道；

若所述算子引擎倉庫中不存在所述目標模型對應的算子引擎，則在生成所述目標模型對應的算子引擎后，將生成的所述算子引擎存入所述算子引擎倉庫。

2.根據權利要求1所述的方法，其特征在于，所述模型文件配置表包括模型標識與模型位置的對應關系，所述任務參數包括所述目標模型的模型標識，所述根據所述任務參數和所述模型文件配置表，從所述模型文件中讀取出所述目標模型，包括：

在所述對應關系中查找與所述目標模型的模型標識對應的模型位置；

根據所述模型位置從所述模型文件中讀取出所述目標模型。

3.根據權利要求1所述的方法，其特征在于，所述任務參數包括所述目標模型的模型標識，所述根據所述任務參數和所述算子引擎生成引擎管道，包括：

按照所述任務參數中的各個模型標識對應的先后順序，對所述算子引擎進行關聯，得到引擎管道；其中，所述引擎管道中的前項算子引擎注冊當前算子引擎的輸入接口，當前算子引擎注冊后項算子引擎的輸入接口。

4.根據權利要求1所述的方法，其特征在于，所述方法還包括：

將獲取的視頻流數據送入對應的引擎管道，利用所述引擎管道中的算子引擎對獲取的視頻流數據進行處理；

在獲得所述引擎管道的最后一個算子引擎輸出的處理結果后，將所述處理結果回調至應用程序。

5.根據權利要求1所述的方法，其特征在于，所述算子引擎維護有算子路由表，所述算子路由表包括路由索引，所述路由索引包括數據標識、目標算子引擎、下一跳算子引擎以及數據優先級，所述算子引擎根據自身維護的算子路由表確定接收到的視頻流數據對應的優先級、目標算子引擎以及下一跳算子引擎；所述方法還包括：

在有新的視頻流分析任務創建，或者已創建的視頻流分析任務被刪除的情況下，對所述算子引擎維護的算子路由表進行更新。

6.根據權利要求1-5任一項所述的方法，其特征在于，所述算子引擎包括輸入接口、分析接口和輸出接口，所述輸入接口用于維護多種優先級的輸入隊列，并將接收到的數據按照優先級存放至對應的輸入隊列；所述分析接口用于對所述輸入隊列中的數據進行分析；所述輸出接口用于維護多種優先級的輸出隊列，并將接收到的數據按照優先級存放至對應的輸出隊列。