[發(fā)明專(zhuān)利]神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)任務(wù)分配有效
| 申請(qǐng)?zhí)枺?/td> | 201880035228.0 | 申請(qǐng)日： | 2018-04-24 |
| 公開(kāi)（公告）號(hào)： | CN110678846B | 公開(kāi)（公告）日： | 2021-09-10 |
| 發(fā)明（設(shè)計(jì)）人： | F·羅西;G·卡普爾;M·R·西拉庫(kù)薩;W·B·馬奇 | 申請(qǐng)（專(zhuān)利權(quán)）人： | 蘋(píng)果公司 |
| 主分類(lèi)號(hào)： | G06F9/50 | 分類(lèi)號(hào)： | G06F9/50;G06N3/063 |
| 代理公司： | 北京市金杜律師事務(wù)所 11256 | 代理人： | 羅利娜 |
| 地址： | 美國(guó)加利*** | 國(guó)省代碼： | 暫無(wú)信息 |
| 權(quán)利要求書(shū)： | 查看更多 | 說(shuō)明書(shū)： | 查看更多 |
| 摘要： | |||
| 搜索關(guān)鍵詞： | 神經(jīng)網(wǎng)絡(luò) 動(dòng)態(tài) 任務(wù) 分配 | ||
1.一種用于編譯神經(jīng)網(wǎng)絡(luò)模型的方法，包括：
在編譯時(shí)間，對(duì)于神經(jīng)網(wǎng)絡(luò)模型的第一層的每個(gè)相應(yīng)節(jié)點(diǎn)：
確定在所述第一層的所述相應(yīng)節(jié)點(diǎn)處執(zhí)行的第一操作；
至少部分地基于目標(biāo)平臺(tái)的硬件能力來(lái)向所述第一層的所述相應(yīng)節(jié)點(diǎn)分配第一注釋以指示所述第一操作是被建議在CPU上還是在GPU上執(zhí)行，其中至少部分地基于通過(guò)使用操作的注冊(cè)表并確定從所述目標(biāo)平臺(tái)的所述CPU或所述GPU傳輸所述第一操作的成本來(lái)確定所述第一注釋?zhuān)?/p>
確定所述神經(jīng)網(wǎng)絡(luò)模型是否包括第二層，所述第二層不同于所述第一層；以及
響應(yīng)于確定所述神經(jīng)網(wǎng)絡(luò)模型包括所述第二層，對(duì)于所述神經(jīng)網(wǎng)絡(luò)模型的所述第二層的每個(gè)相應(yīng)節(jié)點(diǎn)：
確定在所述第二層的所述相應(yīng)節(jié)點(diǎn)處執(zhí)行的第二操作；以及
向所述第二層的所述相應(yīng)節(jié)點(diǎn)分配第二注釋以指示所述第二操作是被建議在所述CPU上還是所述GPU上執(zhí)行。
2.根據(jù)權(quán)利要求1所述的方法，其中所述分配所述第二注釋以指示所述第二操作是被建議在所述CPU上還是在所述GPU上執(zhí)行至少部分地基于所述目標(biāo)平臺(tái)的所述硬件能力，其中至少部分地基于通過(guò)使用操作的所述注冊(cè)表并確定所述第二操作是否由所述目標(biāo)平臺(tái)的所述CPU或所述GPU支持或者確定從所述目標(biāo)平臺(tái)的所述CPU或所述GPU傳輸所述第二操作的成本來(lái)確定所述第二注釋。
3.根據(jù)權(quán)利要求1所述的方法，其中在所述第一層的所述相應(yīng)節(jié)點(diǎn)處執(zhí)行的所述第一操作由所述CPU和所述GPU支持。
4.根據(jù)權(quán)利要求1所述的方法，其中所述第一注釋包括在所述第一操作不被所述GPU支持時(shí)在所述CPU上運(yùn)行所述第一操作的指示。
5.根據(jù)權(quán)利要求1所述的方法，其中操作的所述注冊(cè)表包括針對(duì)每個(gè)設(shè)備的每個(gè)支持的操作的所需類(lèi)型和參數(shù)的查找表，或針對(duì)每個(gè)設(shè)備或硬件處理器的操作的性能測(cè)量的查找表。
6.根據(jù)權(quán)利要求1所述的方法，其中操作的所述注冊(cè)表包括能夠在平臺(tái)或處理器上運(yùn)行的每個(gè)支持的操作的信息。
7.根據(jù)權(quán)利要求1所述的方法，其中確定從所述目標(biāo)平臺(tái)的所述CPU或所述GPU傳輸所述第一操作的所述成本至少部分地基于在所述CPU或所述GPU處完成所述第一操作的總運(yùn)行時(shí)間。
8.根據(jù)權(quán)利要求1所述的方法，其中所述第一層包括輸出層。
9.根據(jù)權(quán)利要求1所述的方法，其中所述第二層包括隱藏層。
10.根據(jù)權(quán)利要求1所述的方法，其中所述第一注釋指示所述CPU用于運(yùn)行所述第一操作，并且所述第二注釋指示所述GPU用于運(yùn)行所述第二操作。
11.根據(jù)權(quán)利要求1所述的方法，其中所述神經(jīng)網(wǎng)絡(luò)模型還包括第三層。
12.根據(jù)權(quán)利要求1所述的方法，其中所述第一注釋至少部分地基于通過(guò)確定所述第一操作是否由所述目標(biāo)平臺(tái)的所述CPU或所述GPU支持被確定。
13.根據(jù)權(quán)利要求1所述的方法，其中所述第二注釋在編譯時(shí)間被分配。
該專(zhuān)利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息，商用須獲得專(zhuān)利權(quán)人授權(quán)。該專(zhuān)利全部權(quán)利屬于蘋(píng)果公司，未經(jīng)蘋(píng)果公司許可，擅自商用是侵權(quán)行為。如果您想購(gòu)買(mǎi)此專(zhuān)利、獲得商業(yè)授權(quán)和技術(shù)合作，請(qǐng)聯(lián)系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/201880035228.0/1.html，轉(zhuǎn)載請(qǐng)聲明來(lái)源鉆瓜專(zhuān)利網(wǎng)。
- 同類(lèi)專(zhuān)利
- 專(zhuān)利分類(lèi)
- 硬件神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法、計(jì)算裝置、軟硬件協(xié)作系統(tǒng)
- 生成較大神經(jīng)網(wǎng)絡(luò)
- 神經(jīng)網(wǎng)絡(luò)的生成方法、生成裝置和電子設(shè)備
- 一種舌診方法、裝置、計(jì)算設(shè)備及計(jì)算機(jī)存儲(chǔ)介質(zhì)
- 學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
- 脈沖神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法及相關(guān)轉(zhuǎn)換芯片
- 圖像處理方法、裝置、可讀存儲(chǔ)介質(zhì)和計(jì)算機(jī)設(shè)備
- 一種適應(yīng)目標(biāo)數(shù)據(jù)集的網(wǎng)絡(luò)模型微調(diào)方法、系統(tǒng)、終端和存儲(chǔ)介質(zhì)
- 用于重構(gòu)人工神經(jīng)網(wǎng)絡(luò)的處理器及其操作方法、電氣設(shè)備
- 一種圖像神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化方法及裝置
- 動(dòng)態(tài)矢量譯碼方法和動(dòng)態(tài)矢量譯碼裝置
- 動(dòng)態(tài)口令的顯示方法及動(dòng)態(tài)令牌
- 動(dòng)態(tài)庫(kù)管理方法和裝置
- 動(dòng)態(tài)令牌的身份認(rèn)證方法及裝置
- 令牌、動(dòng)態(tài)口令生成方法、動(dòng)態(tài)口令認(rèn)證方法及系統(tǒng)
- 一種動(dòng)態(tài)模糊控制系統(tǒng)
- 一種基于動(dòng)態(tài)信號(hào)的POS機(jī)和安全保護(hù)方法
- 圖像動(dòng)態(tài)展示的方法、裝置、系統(tǒng)及介質(zhì)
- 一種基于POS機(jī)聚合碼功能分離顯示動(dòng)態(tài)聚合碼的系統(tǒng)
- 基于動(dòng)態(tài)口令的身份認(rèn)證方法、裝置和動(dòng)態(tài)令牌
- 任務(wù)協(xié)作裝置及方法
- 用于量化任務(wù)價(jià)值的任務(wù)管理方法及裝置
- 用于運(yùn)行任務(wù)的系統(tǒng)、方法和裝置
- 一種分布式任務(wù)調(diào)度系統(tǒng)及方法
- 任務(wù)信息處理方法
- 一種同步任務(wù)異步執(zhí)行的方法和調(diào)度系統(tǒng)
- 數(shù)據(jù)處理方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀介質(zhì)
- 一種自動(dòng)分配和推送的任務(wù)管理平臺(tái)及方法
- 程序執(zhí)行控制的裝置及方法、終端和存儲(chǔ)介質(zhì)
- 基于會(huì)話(huà)的任務(wù)待辦方法、系統(tǒng)、電子設(shè)備及存儲(chǔ)介質(zhì)
