[發(fā)明專利]利用衍生神經(jīng)網(wǎng)絡(luò)優(yōu)化并行人工智能處理在審
| 申請(qǐng)?zhí)枺?/td> | 202210980186.6 | 申請(qǐng)日： | 2022-08-16 |
| 公開（公告）號(hào)： | CN115904693A | 公開（公告）日： | 2023-04-04 |
| 發(fā)明（設(shè)計(jì)）人： | S·德維威迪;N·A·黑梅爾 | 申請(qǐng)（專利權(quán)）人： | 輝達(dá)公司 |
| 主分類號(hào)： | G06F9/50 | 分類號(hào)： | G06F9/50;G06F16/901;G06N3/045;G06N3/08;G06N20/00 |
| 代理公司： | 北京市磐華律師事務(wù)所 11336 | 代理人： | 高偉 |
| 地址： | 美國(guó)加利*** | 國(guó)省代碼： | 暫無(wú)信息 |
| 權(quán)利要求書： | 查看更多 | 說(shuō)明書： | 查看更多 |
| 摘要： | |||
| 搜索關(guān)鍵詞： | 利用 衍生 神經(jīng)網(wǎng)絡(luò) 優(yōu)化 并行 人工智能 處理 | ||
1.一種計(jì)算機(jī)實(shí)現(xiàn)的方法，包括：
識(shí)別第一人工智能AI模型和第二AI模型的至少一個(gè)公共特征；
使用一個(gè)或更多個(gè)并行處理單元基于所述第一AI模型和所述第二AI模型生成第三AI模型，所述第三AI模型被生成以包括所述第一AI模型和所述第二AI模型的所述至少一個(gè)公共特征；以及
處理所述第三AI模型以生成包括與所述第一AI模型和所述第二AI模型相關(guān)聯(lián)的推理數(shù)據(jù)的輸出。
2.如權(quán)利要求1所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中處理所述第三AI模型由第一處理器執(zhí)行，并且生成所述第三AI模型由不同于所述第一處理器的第二處理器執(zhí)行。
3.如權(quán)利要求2所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述第一處理器是中央處理單元CPU，并且所述第二處理器是圖形處理單元GPU。
4.如權(quán)利要求1所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，還包括：
基于所述第一AI模型和所述第二AI模型的復(fù)雜度確定所述第三AI模型的數(shù)據(jù)結(jié)構(gòu)類型。
5.如權(quán)利要求1所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述第一AI模型和所述第二AI模型的所述至少一個(gè)公共特征是所述第一AI模型和所述第二AI模型使用的神經(jīng)網(wǎng)絡(luò)架構(gòu)的至少一部分。
6.如權(quán)利要求1所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，還包括：
將所述第一AI模型轉(zhuǎn)換為第一數(shù)據(jù)結(jié)構(gòu)并將所述第二AI模型轉(zhuǎn)換為第二數(shù)據(jù)結(jié)構(gòu)，其中生成所述第三AI模型是基于所述第一數(shù)據(jù)結(jié)構(gòu)和所述第二數(shù)據(jù)結(jié)構(gòu)。
7.如權(quán)利要求6所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述第一數(shù)據(jù)結(jié)構(gòu)和所述第二數(shù)據(jù)結(jié)構(gòu)中的每一個(gè)都包括節(jié)點(diǎn)，并且至少多個(gè)所述節(jié)點(diǎn)在所述第一數(shù)據(jù)結(jié)構(gòu)和所述第二數(shù)據(jù)結(jié)構(gòu)之間是公共的，并且其中生成所述第三AI模型包括在所述第三AI模型中包括所述多個(gè)節(jié)點(diǎn)。
8.如權(quán)利要求7所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述第一數(shù)據(jù)結(jié)構(gòu)是第一圖數(shù)據(jù)結(jié)構(gòu)并且所述第二數(shù)據(jù)結(jié)構(gòu)是第二圖數(shù)據(jù)結(jié)構(gòu)。
9.如權(quán)利要求1所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中生成所述第三AI模型包括生成與由所述第一AI模型和所述第二AI模型共享的AI模型架構(gòu)相對(duì)應(yīng)的數(shù)據(jù)結(jié)構(gòu)。
10.如權(quán)利要求9所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述數(shù)據(jù)結(jié)構(gòu)是以下至少之一：圖數(shù)據(jù)結(jié)構(gòu)、樹數(shù)據(jù)結(jié)構(gòu)或包括散列圖的數(shù)據(jù)結(jié)構(gòu)。
11.一種系統(tǒng)，包括：
第一處理器，用于：
接收第一人工智能AI模型和第二AI模型，所述第一AI模型包括也包括在所述第二AI模型中的一個(gè)或更多個(gè)神經(jīng)網(wǎng)絡(luò)層；并且
生成第三AI模型，所述第三AI模型包括包含在所述第一AI模型和所述第二AI模型中的所述一個(gè)或更多個(gè)神經(jīng)網(wǎng)絡(luò)層；
第二處理器，用于：
接收所述第三AI模型；以及
使用所述第三AI模型生成數(shù)據(jù)。
12.如權(quán)利要求11所述的系統(tǒng)，其中所述數(shù)據(jù)基于與所述第一AI模型和所述第二AI模型相關(guān)聯(lián)的輸入數(shù)據(jù)。
13.如權(quán)利要求12所述的系統(tǒng)，其中所述數(shù)據(jù)是基于與所述第一AI模型和所述第二AI模型相關(guān)聯(lián)的所述輸入數(shù)據(jù)的推理數(shù)據(jù)。
14.如權(quán)利要求11所述的系統(tǒng)，其中所述第一AI模型和所述第二AI模型共享公共的神經(jīng)網(wǎng)絡(luò)架構(gòu)。
15.如權(quán)利要求11所述的系統(tǒng)，其中所述第一處理器是中央處理單元CPU，并且所述第二處理器是圖形處理單元GPU。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息，商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于輝達(dá)公司，未經(jīng)輝達(dá)公司許可，擅自商用是侵權(quán)行為。如果您想購(gòu)買此專利、獲得商業(yè)授權(quán)和技術(shù)合作，請(qǐng)聯(lián)系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202210980186.6/1.html，轉(zhuǎn)載請(qǐng)聲明來(lái)源鉆瓜專利網(wǎng)。
- 硬件神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法、計(jì)算裝置、軟硬件協(xié)作系統(tǒng)
- 生成較大神經(jīng)網(wǎng)絡(luò)
- 神經(jīng)網(wǎng)絡(luò)的生成方法、生成裝置和電子設(shè)備
- 一種舌診方法、裝置、計(jì)算設(shè)備及計(jì)算機(jī)存儲(chǔ)介質(zhì)
- 學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
- 脈沖神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法及相關(guān)轉(zhuǎn)換芯片
- 圖像處理方法、裝置、可讀存儲(chǔ)介質(zhì)和計(jì)算機(jī)設(shè)備
- 一種適應(yīng)目標(biāo)數(shù)據(jù)集的網(wǎng)絡(luò)模型微調(diào)方法、系統(tǒng)、終端和存儲(chǔ)介質(zhì)
- 用于重構(gòu)人工神經(jīng)網(wǎng)絡(luò)的處理器及其操作方法、電氣設(shè)備
- 一種圖像神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化方法及裝置
