[發明專利]應用于AI算法工程化、系統化的分布式框架

在審

• 申請號: 201710264446.9
• 申請日: 2017-04-21
• 公開（公告）號: CN107038482A
• 公開（公告）日: 2017-08-11
• 發明（設計）人: 劉聰
• 申請（專利權）人: 上海極鏈網絡科技有限公司
• 主分類號: G06N99/00
• 分類號: G06N99/00;G06F9/50;G06F17/30
• 代理公司: 上海海貝律師事務所31301
• 代理人: 范海燕

1.一種應用于AI算法工程化、系統化的分布式框架，其特征在于：整個分布式框架分為任務隊列及調度服務、視頻切割服務、算法分析服務、數據中心四個大部分；

1)任務隊列及調度系統，視頻文件內容輸入之后首先會進入任務隊列排隊，等待調度程序處理；

2)視頻切割服務，當有算法服務器空閑時，視頻文件被從隊列中取出，但并不會馬上放到算法服務器上執行分析，需要先經過視頻切割服務處理視頻文件；加入這一個服務是對單個視頻的分析進行提速；

3)算法分析服務，這里是最終執行深度學習算法的服務器，同時對于機器上的gpu和cpu的調度也在這里實現，單臺物理機器上通常會配置多個gpu核和cpu核，具體針對硬件資源的使用在調用算法前由部署在機器上調度算法來完成，同時針對算法執行過程進行監控將執行狀態反饋到前端顯示，最后算法執行的結果會通過回調將結果反饋到下面的數據中心；

4)數據中心，在數據中心將視頻的分析結果進行匯總，合并到同一個視頻中的結果，處理成結構化的數據之后存儲到數據庫中，方便以后的檢索。

2.如權利要求1所述的應用于AI算法工程化、系統化的分布式框架，其特征在于：為了方便實現1)-4)分布式方式，需要部署算法服務器；整個系統的部署采用docker的方式，通過將算法程序都做成docker封裝好，在需要的時候將docker部署啟動服務。

3.如權利要求2所述的應用于AI算法工程化、系統化的分布式框架，其特征在于：1)步驟中，隊列系統的實現采用rabbitmq工具，采用隊列的方式方便在遇到大量視頻輸入時，保證后端的服務能不受沖擊；同時通過調度系統的后臺觀察到當前的任務量和狀態，以幫助運維人員擴展機器應對分析任務；另外隊列系統使得各個服務之間很好的解耦，保證各自的開發和運行不受影響。

4.如權利要求3所述的應用于AI算法工程化、系統化的分布式框架，其特征在于：2)步驟中，將視頻文件分成多個視頻，分發給多臺算法服務器同時執行分析，減少單個視頻的分析時間，具體減少的倍數取決于算法服務器的數量，為了保證最后分析結果的連續性，在切割時采取比較的策略，用部分重疊時間的方式；最后再將小文件的分析結果通過回掉返回給存儲服務器進行處理。

5.如權利要求4所述的應用于AI算法工程化、系統化的分布式框架，其特征在于：4)步驟中，數據庫同時放到elasticsearch這類的搜索系統中，做成一個視頻檢索系統，存儲服務最后分析完成的狀態，反饋到前端系統，通知用戶分析完成，至此整個分析任務完成。