[發(fā)明專利]一種深度學(xué)習(xí)模型的自動化訓(xùn)練與測試系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202011566027.9
• 申請日: 2020-12-25
• 公開（公告）號: CN112699994A
• 公開（公告）日: 2021-04-23
• 發(fā)明（設(shè)計）人: 陳楷;廖奇;馮世杰;蔡勁松
• 申請（專利權(quán)）人: 科訊嘉聯(lián)信息技術(shù)有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 合肥律眾知識產(chǎn)權(quán)代理有限公司 34147
• 代理人: 殷娟

本發(fā)明公開了一種深度學(xué)習(xí)模型的自動化訓(xùn)練與測試系統(tǒng)，包括用戶端、管理服務(wù)器、若干執(zhí)行服務(wù)器和文件服務(wù)器；所述用戶端包括web界面和應(yīng)用后臺；所述管理服務(wù)器用于分發(fā)任務(wù)至資源充足的執(zhí)行服務(wù)器，并將執(zhí)行服務(wù)器反饋的任務(wù)進(jìn)度經(jīng)應(yīng)用后臺反饋至web界面；所述執(zhí)行服務(wù)器用于執(zhí)行任務(wù)，同時采用固定頻率心跳保存對應(yīng)epoch算法效果及任務(wù)進(jìn)度，并同步給管理服務(wù)器維護(hù)；所述文件服務(wù)器用于存儲訓(xùn)練/測試用數(shù)據(jù)集，訓(xùn)練后生成的訓(xùn)練結(jié)果文件，以及測試后生成的測試結(jié)果文件；所述管理服務(wù)器周期性獲取所有執(zhí)行服務(wù)器的資源信息，以及正在進(jìn)行的任務(wù)列表詳情。本發(fā)明極大降低了人工智能算法模型的使用門檻，有效縮短項目開發(fā)周期。

技術(shù)領(lǐng)域

本發(fā)明涉及深度學(xué)習(xí)技術(shù)領(lǐng)域，具體是一種深度學(xué)習(xí)模型的自動化訓(xùn)練與測試系統(tǒng)。

背景技術(shù)

人工智能已成為國家新一代重大基礎(chǔ)設(shè)施建設(shè)的一部分，是占領(lǐng)科技高地、保證國家安全的關(guān)鍵。目前，以深度學(xué)習(xí)為主的人工智能算法模型的訓(xùn)練、調(diào)優(yōu)和測試大都依賴算法工程師手動操作，使用門檻較高，也無法充分利用眾多云服務(wù)器的計算資源。針對不同的任務(wù)和算法模型都需要修改源碼，數(shù)據(jù)集也需要人工進(jìn)行數(shù)據(jù)清洗和格式轉(zhuǎn)換，開發(fā)效率低。實際應(yīng)用中，不同的算法工程師可能使用不同框架/版本的開源項目源碼，不同任務(wù)、不同框架的實現(xiàn)之間缺乏靈活性，算法代碼通常比較分散臃腫，未與用戶需求進(jìn)行緊密結(jié)合，極大限制了當(dāng)前用戶對人工智能算法爆炸式的增長需求，阻礙了算法項目的快速實現(xiàn)和迭代，不利于企業(yè)AI平臺化建設(shè)。

發(fā)明內(nèi)容

針對現(xiàn)有深度學(xué)習(xí)模型訓(xùn)練與測試存在的技術(shù)缺陷，本發(fā)明提供一種可視化、輕量級、可擴(kuò)展的自動化訓(xùn)練與測試系統(tǒng)。

一種深度學(xué)習(xí)模型的自動化訓(xùn)練與測試系統(tǒng)，包括用戶端、管理服務(wù)器、若干執(zhí)行服務(wù)器和文件服務(wù)器；

所述用戶端包括用于提交任務(wù)的web界面和用于推送任務(wù)至管理服務(wù)器的應(yīng)用后臺；

所述管理服務(wù)器用于分發(fā)任務(wù)至資源充足的執(zhí)行服務(wù)器，并將執(zhí)行服務(wù)器反饋的任務(wù)進(jìn)度經(jīng)應(yīng)用后臺反饋至web界面；

所述執(zhí)行服務(wù)器用于執(zhí)行任務(wù)，同時采用固定頻率心跳保存對應(yīng)epoch算法效果及任務(wù)進(jìn)度，并同步給管理服務(wù)器維護(hù)；

所述文件服務(wù)器用于存儲訓(xùn)練/訓(xùn)練用數(shù)據(jù)集，訓(xùn)練后生成的訓(xùn)練文件，以及測試后生成的測試文件；

所述管理服務(wù)器周期性獲取所有執(zhí)行服務(wù)器的資源信息，以及正在進(jìn)行的任務(wù)列表詳情，資源信息至少包括CPU使用率、內(nèi)存使用率、剩余內(nèi)存、顯存利用率、剩余顯存、剩余磁盤空間，任務(wù)列表詳情至少包括當(dāng)前執(zhí)行服務(wù)器所有正在處理任務(wù)的任務(wù)編號、任務(wù)進(jìn)度、任務(wù)效果。

進(jìn)一步的，數(shù)據(jù)集由用戶提交至文件服務(wù)器，任務(wù)由用戶根據(jù)用戶名稱、業(yè)務(wù)名稱、算法名稱在web界面創(chuàng)建。

進(jìn)一步的，執(zhí)行服務(wù)器接收到任務(wù)，根據(jù)用戶名稱、業(yè)務(wù)名稱、算法名稱在文件服務(wù)器查找已訓(xùn)練完成的同用戶同業(yè)務(wù)同算法下的歷史模型；

若有歷史模型則下載該歷史模型并校驗其標(biāo)注類型及順序編號是否一致，若一致則基于該歷史模型進(jìn)行訓(xùn)練；若無歷史模型或者標(biāo)注類型及順序編號不一致，則采用baseline模型進(jìn)行訓(xùn)練。

進(jìn)一步的，執(zhí)行服務(wù)器從文件服務(wù)器下載數(shù)據(jù)集到本地進(jìn)行解析及格式轉(zhuǎn)換；

若是同任務(wù)下的全量訓(xùn)練，則下載所有同任務(wù)歷史相關(guān)數(shù)據(jù)并校驗，具有相同標(biāo)準(zhǔn)的數(shù)據(jù)加入到當(dāng)前指定的數(shù)據(jù)集中；

若是同任務(wù)下的增量訓(xùn)練，則僅下載當(dāng)前數(shù)據(jù)，并根據(jù)文件類型及其數(shù)據(jù)格式進(jìn)行解析，轉(zhuǎn)存至對應(yīng)目錄下。