[發(fā)明專利]一種人工智能模型部署系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202011229229.4
• 申請日: 2020-11-06
• 公開（公告）號: CN112241256A
• 公開（公告）日: 2021-01-19
• 發(fā)明（設(shè)計(jì)）人: 潘曉光;潘哲;王小華;尚方信;焦璐璐;令狐彬
• 申請（專利權(quán)）人: 山西三友和智慧信息技術(shù)股份有限公司
• 主分類號: G06F8/20
• 分類號: G06F8/20;G06F11/36;G06F16/215;G06F21/62;G06N20/00
• 代理公司: 太原榮信德知識產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 14119
• 代理人: 楊凱;連慧敏

本發(fā)明屬于軟件開發(fā)管理技術(shù)領(lǐng)域，具體涉及一種人工智能模型部署系統(tǒng)，包括數(shù)據(jù)管理模塊、算法和軟件開發(fā)模塊、工程部署計(jì)算機(jī)硬件模塊，所述算法和軟件開發(fā)模塊分別通過通信連接有數(shù)據(jù)管理模塊、工程部署計(jì)算機(jī)硬件模塊，所述算法和軟件開發(fā)模塊內(nèi)設(shè)置有算法開發(fā)子模塊、軟件開發(fā)子模塊，所述算法開發(fā)子模塊與軟件開發(fā)子模塊連接。本發(fā)明完整的提供了人工智能算法開發(fā)和部署框架，實(shí)現(xiàn)了從開發(fā)到工程落地的完整流程。在算法開發(fā)階段，需要使用到的工具流程和開發(fā)過程，從而幫助開發(fā)人員快速驗(yàn)證算法和思路。在算法落地階段，開發(fā)人員可以快速高效的將算法移植到對應(yīng)的平臺上。本發(fā)明用于人工智能模型的部署。

技術(shù)領(lǐng)域

本發(fā)明屬于軟件開發(fā)管理技術(shù)領(lǐng)域，具體涉及一種人工智能模型部署系統(tǒng)。

背景技術(shù)

隨著人工智能技術(shù)的發(fā)展,各種各樣的人工智能技術(shù)層出不窮,極大提升了算法的效果,帶來了更多的商業(yè)落地場景和智能產(chǎn)品,為生活帶來了更多的便利。在開發(fā)一個(gè)商業(yè)化的人工智能產(chǎn)品時(shí)，AI算法只是其中的一部分，數(shù)據(jù)的采集，處理和標(biāo)注；模型的訓(xùn)練，驗(yàn)證和部署也是很重要的一部分。除此之外，針對不同的算力平臺，還需要對模型進(jìn)行加速和優(yōu)化。當(dāng)前，為提升整體算法的效果和更新迭代速度，對人工智能開發(fā)系統(tǒng)模塊化，自動化，流程化的要求越來越高。對于在不同平臺上落地的AI算法，可以進(jìn)行針對性的優(yōu)化和差異化的部署，充分調(diào)動硬件的算力，保證算法效果的穩(wěn)定性，增強(qiáng)產(chǎn)品的效果，提升算法開發(fā)人員的開發(fā)效率。

現(xiàn)有技術(shù)存在的問題或者缺陷：現(xiàn)有的算法開發(fā)框架，更關(guān)注模型訓(xùn)練和驗(yàn)證階段，對其他環(huán)節(jié)的支持有限，并不能滿足算法落地時(shí)對數(shù)據(jù)管理，模型訓(xùn)練和部署差異化的具體要求。

發(fā)明內(nèi)容

針對上述現(xiàn)有的算法開發(fā)框架不能滿足算法落地時(shí)對數(shù)據(jù)管理、模型訓(xùn)練和部署差異化的技術(shù)問題，本發(fā)明提供了一種效率高、使用方便、誤差小的人工智能模型部署系統(tǒng)。

為了解決上述技術(shù)問題，本發(fā)明采用的技術(shù)方案為：

一種人工智能模型部署系統(tǒng)，包括數(shù)據(jù)管理模塊、算法和軟件開發(fā)模塊、工程部署計(jì)算機(jī)硬件模塊，所述算法和軟件開發(fā)模塊分別通過通信連接有數(shù)據(jù)管理模塊、工程部署計(jì)算機(jī)硬件模塊，所述數(shù)據(jù)管理模塊用于對算法開發(fā)和算法落地的全部階段進(jìn)行數(shù)據(jù)處理以及權(quán)限管制，所述工程部署計(jì)算機(jī)硬件模塊通過模型轉(zhuǎn)換工具將算法和軟件開發(fā)模塊完成的架構(gòu)和算法模型匹配到目標(biāo)運(yùn)算平臺，所述算法和軟件開發(fā)模塊內(nèi)設(shè)置有算法開發(fā)子模塊、軟件開發(fā)子模塊，所述算法開發(fā)子模塊與軟件開發(fā)子模塊連接。

所述數(shù)據(jù)管理模塊包括數(shù)據(jù)獲取子模塊、數(shù)據(jù)清洗子模塊、數(shù)據(jù)處理子模塊、數(shù)據(jù)存儲子模塊，所述數(shù)據(jù)獲取子模塊通過通信連接有數(shù)據(jù)清洗子模塊，所述數(shù)據(jù)獲取子模塊獲取原始數(shù)據(jù)源，所述數(shù)據(jù)清洗子模塊通過通信連接有數(shù)據(jù)處理子模塊，所述數(shù)據(jù)處理子模塊通過通信連接有數(shù)據(jù)存儲子模塊。

所述數(shù)據(jù)存儲子模塊設(shè)置一種或多種相互獨(dú)立的儲存單元。

所述數(shù)據(jù)管理模塊內(nèi)設(shè)置有數(shù)據(jù)權(quán)限管理子模塊。

所述算法開發(fā)子模塊包括基準(zhǔn)模型單元、模型訓(xùn)練單元、驗(yàn)證測試單元、輸出單元，所述基準(zhǔn)模型單元與模型訓(xùn)練單元連接，所述模型訓(xùn)練單元與驗(yàn)證測試單元連接，所述驗(yàn)證測試單元與輸出單元連接，所述基準(zhǔn)模型單元內(nèi)設(shè)置有至少兩種預(yù)訓(xùn)練基準(zhǔn)算法模型，所述模型訓(xùn)練單元設(shè)置有可視化監(jiān)督工具，所述驗(yàn)證測試單元根據(jù)模型效果進(jìn)行反復(fù)迭代同時(shí)更新算法。

所述軟件開發(fā)子模塊包括軟件構(gòu)架搭建單元、開發(fā)算法接口、測試和腳本單元，所述軟件構(gòu)架搭建單元與開發(fā)算法接口連接，所述開發(fā)算法接口與測試和腳本單元連接，所述軟件構(gòu)架搭建單元根據(jù)產(chǎn)品的業(yè)務(wù)和使用邏輯完成軟件整體層面的架構(gòu)，所述開發(fā)算法接口與算法開發(fā)子模塊的輸出單元連接，所述開發(fā)算法接口適配算法開發(fā)子模塊的定型算法，所述測試和腳本單元用于軟件和算法的測試和腳本保存。

本發(fā)明與現(xiàn)有技術(shù)相比，具有的有益效果是：