[發(fā)明專利]一種面向任務(wù)的人工智能項目通用架構(gòu)平臺及其使用方法

在審

• 申請?zhí)枺?/td>: 202210406108.5
• 申請日: 2022-04-18
• 公開（公告）號: CN114840182A
• 公開（公告）日: 2022-08-02
• 發(fā)明（設(shè)計）人: 吳博文;龔科;陳添水
• 申請（專利權(quán)）人: 拓元（廣州）智慧科技有限公司
• 主分類號: G06F8/20
• 分類號: G06F8/20;G06F8/36;G06F9/48
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發(fā)明提供了一種面向任務(wù)的人工智能項目通用架構(gòu)平臺及其使用方法，所述面向任務(wù)的人工智能項目通用架構(gòu)平臺包括：模型服務(wù)注冊模塊，用于注冊預(yù)先訓(xùn)練好的模型，以及注冊模型服務(wù)；調(diào)用順序管理模塊，用于管理和調(diào)整各模型服務(wù)之間的調(diào)用順序；調(diào)用數(shù)據(jù)管理模塊，用于管理和調(diào)整各模型服務(wù)之間的數(shù)據(jù)結(jié)構(gòu)關(guān)系和調(diào)用的上下級關(guān)系；服務(wù)推理管理模塊，用于提供調(diào)用入口以及對調(diào)用進(jìn)行權(quán)限鑒定。本發(fā)明可以避免不同項目重復(fù)設(shè)計架構(gòu)，使得面向任務(wù)的人工智能可以簡單地進(jìn)行部署，而且部署的模型能夠即插即用。

技術(shù)領(lǐng)域

本發(fā)明涉及人工智能部署架構(gòu)領(lǐng)域，具體涉及一種面向任務(wù)的人工智能項目通用架構(gòu)平臺及其使用方法。

背景技術(shù)

隨著深度學(xué)習(xí)技術(shù)出現(xiàn)，大數(shù)據(jù)以及計算能力的提高，人工智能成為推動科技跨域發(fā)展、產(chǎn)業(yè)優(yōu)化升級、生產(chǎn)力整體躍升的重要驅(qū)動力量，其基礎(chǔ)性和關(guān)鍵性作用日益凸顯。

但是，隨著人工智能任務(wù)越來越復(fù)雜，單模型系統(tǒng)已經(jīng)不能滿足現(xiàn)實的需要，更多的系統(tǒng)是通過多模態(tài)、多模型配合來實現(xiàn)的。這就需要針對每一個系統(tǒng)設(shè)計一個高性能、高可用性的軟件架構(gòu)來配合模型的開發(fā)部署。

另一方面，人工智能在賦能行業(yè)的過程中，一般都會涌現(xiàn)很多的創(chuàng)新性構(gòu)想，所以需要一個系統(tǒng)對這些構(gòu)想做快速實現(xiàn)、快速試錯。如果每一個構(gòu)想都重新設(shè)計軟件架構(gòu)來配合，則需要不同崗位的工作人員花費大量的溝通成本，拉長了實現(xiàn)的周期，增加了試錯的成本。

發(fā)明內(nèi)容

本發(fā)明的目的在于針對現(xiàn)有技術(shù)中的問題，提供一種面向任務(wù)的人工智能項目通用架構(gòu)平臺及其使用方法，以滿足人工智能項目需要快速實現(xiàn)、快事試錯的需求。

為實現(xiàn)上述目的，本發(fā)明采用以下技術(shù)方案：

一種面向任務(wù)的人工智能項目通用架構(gòu)平臺，包括：

模型服務(wù)注冊模塊，用于注冊預(yù)先訓(xùn)練好的模型，以及注冊模型服務(wù)；

調(diào)用順序管理模塊，用于管理和調(diào)整各模型服務(wù)之間的調(diào)用順序；

調(diào)用數(shù)據(jù)管理模塊，用于管理和調(diào)整各模型服務(wù)之間的數(shù)據(jù)結(jié)構(gòu)關(guān)系和調(diào)用的上下級關(guān)系；

服務(wù)推理管理模塊，用于提供調(diào)用入口以及對調(diào)用進(jìn)行權(quán)限鑒定。

進(jìn)一步地，所述模型服務(wù)注冊模塊在注冊模型服務(wù)時，要求用戶提供服務(wù)調(diào)用的地址和調(diào)用的數(shù)據(jù)結(jié)構(gòu)。

進(jìn)一步地，所述服務(wù)推理管理模塊中設(shè)有服務(wù)推理入口，用于供用戶提交推理請求以及輸入待推理數(shù)據(jù)；

所述服務(wù)推理管理模塊還用于按照調(diào)用順序管理模塊中設(shè)置的調(diào)用順序和調(diào)用數(shù)據(jù)管理模塊中設(shè)置的數(shù)據(jù)結(jié)構(gòu)關(guān)系，執(zhí)行用戶的推理請求，并輸出得到的推理數(shù)據(jù)。

進(jìn)一步地，所述模型服務(wù)注冊模塊還用于修改或刪除注冊好的模型服務(wù)。

進(jìn)一步地，所述調(diào)用順序管理模塊中設(shè)有條件跳轉(zhuǎn)子模塊，用于通過條件進(jìn)行調(diào)用順序的跳轉(zhuǎn)設(shè)置。

一種以上所述的面向任務(wù)的人工智能項目通用架構(gòu)平臺的使用方法，包括：

S1、通過模型服務(wù)注冊模塊，注冊預(yù)先訓(xùn)練好的模型及其相關(guān)的模型服務(wù)，在注冊模型服務(wù)時，提供服務(wù)調(diào)用的地址和調(diào)用的數(shù)據(jù)結(jié)構(gòu)；

S2、通過調(diào)用順序管理模塊，修改各模型服務(wù)之間的調(diào)用順序；

S3、通過調(diào)用數(shù)據(jù)管理模塊，修改各模型服務(wù)之間的上下級調(diào)用關(guān)系和數(shù)據(jù)結(jié)構(gòu)關(guān)系；

S4、通過服務(wù)推理管理模塊中的服務(wù)推理入口，提交推理請求并輸入待推理數(shù)據(jù)；所述服務(wù)推理管理模塊按照調(diào)用順序管理模塊中設(shè)置的調(diào)用順序和調(diào)用數(shù)據(jù)管理模塊中設(shè)置的數(shù)據(jù)結(jié)構(gòu)關(guān)系，執(zhí)行用戶的推理請求，并輸出得到的推理數(shù)據(jù)。