[發(fā)明專利]部署邊緣AI和構(gòu)建可視化AI編程平臺的方法、裝置及電子設(shè)備

在審

• 申請?zhí)枺?/td>: 202210219056.0
• 申請日: 2022-03-08
• 公開（公告）號: CN114675830A
• 公開（公告）日: 2022-06-28
• 發(fā)明（設(shè)計）人: 曾凱;陳宏君;李響;文繼鋒;趙奎;譚良良;劉寧
• 申請（專利權(quán)）人: 南京南瑞繼保電氣有限公司;南京南瑞繼保工程技術(shù)有限公司
• 主分類號: G06F8/41
• 分類號: G06F8/41;G06F8/38;G06F8/34
• 代理公司: 北京律和信知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11446
• 代理人: 何春暉;劉興

1.一種部署邊緣AI的方法，其特征在于，包括：

在可視化AI編程平臺中通過模塊化圖形建模的方式確定AI任務(wù)部署的軟硬件環(huán)境，所述軟硬件環(huán)境由按任務(wù)、算法、硬件、部署框架、操作系統(tǒng)分類的實(shí)例化子模塊共同確定，每個分類的實(shí)例化子模塊包含所屬的代碼段及編譯參數(shù)；

分析所述實(shí)例化子模塊的拓?fù)溥B接關(guān)系，構(gòu)建出目標(biāo)軟硬件環(huán)境下的可編譯代碼程序及編譯環(huán)境，調(diào)用交叉編譯工具生成SDK庫文件；

構(gòu)建在邊緣計算設(shè)備中運(yùn)行的可執(zhí)行程序，以外部直采數(shù)據(jù)或者合成數(shù)據(jù)作為輸入，經(jīng)所述SDK庫文件中的推理函數(shù)提供推理運(yùn)算，得到推理結(jié)果；

將所述推理結(jié)果用于參與其它邏輯運(yùn)算或者在顯示設(shè)備上用圖形化界面進(jìn)行展示。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，

所述軟硬件環(huán)境由任務(wù)層、算法層、硬件層、部署框架層和操作系統(tǒng)層多個分類維度來確定；

所述任務(wù)層包括計算機(jī)視覺、自然語言處理、語音及各垂類子任務(wù)；

所述算法層包括所述AI任務(wù)所使用的算法模型，根據(jù)部署硬件條件選擇深度學(xué)習(xí)標(biāo)準(zhǔn)或者輕量級的模型算法或者傳統(tǒng)的機(jī)器學(xué)習(xí)模型算法；

所述硬件層包括邊緣計算平臺的硬件選型，包括CPU/GPU/NPU/TPU硬件架構(gòu)或者不同廠商的AI芯片產(chǎn)品；

所述部署框架層包括AI任務(wù)的部署框架；

所述操作系統(tǒng)層包括邊緣設(shè)備操作系統(tǒng)的架構(gòu)版本，以確定編譯SDK包時需要調(diào)用的交叉編譯工具鏈。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述分析所述實(shí)例化子模塊的拓?fù)溥B接關(guān)系，包括：

分析所述可視化頁面中所述實(shí)例化符號模塊的拓?fù)溥B接關(guān)系，確定外部數(shù)據(jù)輸入及各實(shí)例化符號模塊的輸入輸出連接關(guān)系。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述以外部直采數(shù)據(jù)或者合成數(shù)據(jù)作為輸入，經(jīng)所述SDK庫文件中的推理函數(shù)提供推理運(yùn)算，得到推理結(jié)果，包括：

通過邊緣裝置采集圖像、文字、語音數(shù)據(jù)作為輸入數(shù)據(jù)；

設(shè)置合適的循環(huán)周期，將所述輸入數(shù)據(jù)傳遞給所述推理函數(shù)，得到運(yùn)算后輸出的數(shù)據(jù)。

5.一種構(gòu)建可視化AI編程平臺的方法，其特征在于，包括：

對軟硬件環(huán)境進(jìn)行抽象化建模，形成多個功能模塊，并按類別組織形成符號庫；

通過用戶界面交互操作，在可視化頁面中完成所述符號庫中圖形化符號模塊的實(shí)例化及配置，形成符號模塊間連接的網(wǎng)絡(luò)拓?fù)鋱D；

進(jìn)行數(shù)據(jù)流向分析，確定每個符號模塊間的調(diào)用傳參關(guān)系；

構(gòu)建可編譯的程序代碼段，調(diào)用交叉編譯工具編譯生成SDK程序包。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述對軟硬件環(huán)境進(jìn)行抽象化建模，形成多個功能模塊，并按類組織形成符號庫，包括：

創(chuàng)建所述多個功能模塊對應(yīng)的圖形化符號模塊，并按軟硬件環(huán)境類別分類組織形成符號庫。

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，所述功能模塊包含所屬的代碼段、輸入輸出變量及編譯參數(shù)信息。

8.根據(jù)權(quán)利要求6所述的方法，其特征在于，所述軟硬件環(huán)境類別包括：任務(wù)、算法、硬件、部署框架、操作系統(tǒng)。

9.根據(jù)權(quán)利要求5所述的方法，其特征在于，基于所述圖形化符號模塊，在可視化頁面中通過拖拽、拉線、屬性編輯的交互操作完成所述軟硬件環(huán)境的配置。

10.根據(jù)權(quán)利要求5所述的方法，其特征在于，還包括：

對所述網(wǎng)絡(luò)拓?fù)鋱D中的所述圖形化符號模塊間的輸入輸出數(shù)據(jù)流向進(jìn)行拓?fù)浞治觯源_定每個實(shí)例化的符號模塊的程序代碼段的編譯順序。

11.根據(jù)權(quán)利要求5所述的方法，其特征在于，還包括：

對所述軟硬件環(huán)境的配置進(jìn)行邏輯校驗(yàn)，對不符合條件的配置進(jìn)行提示；

在確認(rèn)所述配置正確無誤后，生成拓?fù)浞治鼋Y(jié)果。