[發明專利]一種分布式環境下的人工智能模型管理系統及管理方法

有效

• 申請號: 201911375051.1
• 申請日: 2019-12-27
• 公開（公告）號: CN111144578B
• 公開（公告）日: 2023-07-28
• 發明（設計）人: 徐輝;閆威
• 申請（專利權）人: 創新奇智（重慶）科技有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06F16/23
• 代理公司: 深圳珠峰知識產權代理有限公司 44899
• 代理人: 黃偉

1.一種分布式環境下的人工智能模型管理系統，用于對機器學習服務平臺所使用的模型進行更新管理，其特征在于，所述人工智能模型管理系統包括：

注冊信息添加模塊，用于提供給用戶添加所述模型的模型數據以及使用所述模型的在線服務的服務信息，并將所述用戶添加的所述模型數據和所述服務信息存儲于一數據庫中；

模型上傳模塊，用于提供給所述用戶將更新后的所述模型對應的模型文件上傳至一模型庫中存儲；

模型數據獲取模塊，連接所述數據庫，用于從所述數據庫中獲取關聯于所述模型的所述模型數據；

特征值計算模塊，連接所述模型數據獲取模塊，用于根據所獲取的關聯于所述模型的所述模型數據，計算得到一可用于表示所述模型的特征值；

存儲模塊，分別連接所述特征值計算模塊和所述模型庫，用于根據所述特征值，并通過Hash算法將暫存于所述模型庫中的關聯于所述模型的所述模型文件存儲至存儲集群中的對應的存儲節點中；

服務信息查詢模塊，分別連接所述數據庫和所述特征值計算模塊，用于根據所計算的關聯于所述模型的所述特征值，在所述數據庫中查詢使用所述模型的所述服務信息；

模型推送指令生成模塊，連接所述服務信息查詢模塊，用于在查詢到所述服務信息后形成一模型推送指令并輸出；

模型推送模塊，連接各所述存儲節點和所述模型推送指令生成模塊，用于根據所述模型推送指令，將存儲于所述存儲節點中的所述模型文件推送給對應的所述在線服務，所述在線服務根據新接收的所述模型文件完成對服務模型的更新。

2.如權利要求1所述的人工智能模型管理系統，其特征在于，還包括：

回滾模塊，通信連接各所述在線服務、所述數據庫和所述模型庫，用于在需要從各所述在線服務中回退所述模型時，提供給所述用戶輸入需要回滾的所述模型的所述模型數據，并根據所輸入的所述模型數據生成模型回退指令發送給對應的所述在線服務，所述在線服務根據接收到的所述模型回退指令將所述模型回滾到模型更新前的狀態；

所述回滾模塊中具體包括：

回滾模型信息輸入單元，用于提供給所述用戶輸入需要回滾的所述模型對應的所述模型數據；

服務信息查詢單元，連接所述回滾模型信息輸入單元，用于根據所述用戶輸入的所述模型數據在所述數據庫中查詢使用所述模型的所述在線服務對應的所述服務信息；

模型回退指令生成單元，連接所述服務信息查詢單元，用于在查詢到所述服務信息后生成所述模型回退指令；

模型回退指令發送單元，連接所述模型回退指令生成單元，用于將所述模型回退指令發送給對應的所述在線服務；所述在線服務在接收到所述模型回退指令后將所述模型回滾到模型更新前的狀態，并將模型回滾結果反饋給一模型文件刪除單元；

所述模型文件刪除單元，分別連接所述模型回退指令發送單元和所述模型庫，用于在確認所述模型回滾結果為回滾成功后，在所述模型庫中刪除所述在線服務曾使用的模型更新文件。

3.如權利要求1所述的人工智能模型管理系統，其特征在于，所述模型數據包括應用所述模型的所述在線服務的服務編號、所述模型的模型版本號、所述模型采用的模型框架以及所述模型使用的核心算法名稱。

4.如權利要求1所述的人工智能模型管理系統，其特征在于，所述服務信息包括所述在線服務的服務名稱或服務代號、接收所述模型對應的模型文件的接口或地址以及所述在線服務當前使用的所述模型的所述模型文件及所述模型的模型版本號。

5.如權利要求1所述的人工智能模型管理系統，其特征在于，當所述模型文件的文件大小大于或等于一存儲數據量、和/或所述在線服務對于所述模型的訪問頻率小于一頻率閾值時，所述人工智能模型管理系統以第一粒度分片方式將所述模型文件存儲于對應的所述存儲節點中；

當所述模型文件的文件大小小于所述存儲數據量、和/或所述在線服務對于所述模型的訪問頻率大于或等于所述頻率閾值時，所述人工智能模型管理系統以第二粒度分片方式將所述模型文件存儲于對應的所述存儲節點中。