日韩在线一区二区三区,日本午夜一区二区三区,国产伦精品一区二区三区四区视频,欧美日韩在线观看视频一区二区三区 ,一区二区视频在线,国产精品18久久久久久首页狼,日本天堂在线观看视频,综合av一区

[發(fā)明專利]優(yōu)化神經(jīng)網(wǎng)絡(luò)模型中原始維度算子的裝置和方法在審

專利信息
申請(qǐng)?zhí)枺?/td> 202011449721.2 申請(qǐng)日: 2020-12-09
公開(公告)號(hào): CN112465122A 公開(公告)日: 2021-03-09
發(fā)明(設(shè)計(jì))人: 不公告發(fā)明人 申請(qǐng)(專利權(quán))人: 安徽寒武紀(jì)信息科技有限公司
主分類號(hào): G06N3/04 分類號(hào): G06N3/04;G06N3/063;G06N5/04
代理公司: 北京維昊知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11804 代理人: 李波;孫新國(guó)
地址: 231283 安徽省合肥市高新區(qū)習(xí)友路3333*** 國(guó)省代碼: 安徽;34
權(quán)利要求書: 查看更多 說(shuō)明書: 查看更多
摘要:
搜索關(guān)鍵詞: 優(yōu)化 神經(jīng)網(wǎng)絡(luò) 模型 原始 維度 算子 裝置 方法
【說(shuō)明書】:

發(fā)明涉及優(yōu)化神經(jīng)網(wǎng)絡(luò)模型中原始維度算子的裝置和方法,遍歷神經(jīng)網(wǎng)絡(luò)模型,以識(shí)別神經(jīng)網(wǎng)絡(luò)模型的關(guān)鍵節(jié)點(diǎn),在關(guān)鍵節(jié)點(diǎn)處置入成對(duì)維度算子,結(jié)合成對(duì)維度算子其中之一與原始維度算子,最后基于結(jié)合后的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行推理。本發(fā)明從關(guān)鍵節(jié)點(diǎn)出發(fā)減少神經(jīng)網(wǎng)絡(luò)中維度算子的數(shù)量,以提升網(wǎng)絡(luò)的運(yùn)行時(shí)間和減少硬件資源的消耗。

技術(shù)領(lǐng)域

本發(fā)明一般地涉及神經(jīng)網(wǎng)絡(luò)領(lǐng)域。更具體地,本發(fā)明涉及優(yōu)化神經(jīng)網(wǎng)絡(luò)模型中原始維度算子的裝置和方法。

背景技術(shù)

在深度神經(jīng)網(wǎng)絡(luò)的領(lǐng)域中,轉(zhuǎn)置算子(transpose)和變形算子(reshape)被廣泛的應(yīng)用在數(shù)據(jù)重組和適應(yīng)底層軟件棧數(shù)據(jù)擺放格式。

以在GPU上計(jì)算為例,具有NCHW格式的特征圖較具有NHWC格式的特征圖更快。為了獲得更好的性能,當(dāng)數(shù)據(jù)擺放是NHWC時(shí),通常會(huì)在對(duì)維度排列敏感的算子前置入轉(zhuǎn)置算子,將維度排列轉(zhuǎn)換為NCHW,如果再遇到與通道運(yùn)算相關(guān)的算子時(shí),又需要將數(shù)據(jù)擺放還原再進(jìn)行運(yùn)算,顯然由于每個(gè)算子適合的維度擺放方式不同,導(dǎo)致神經(jīng)網(wǎng)絡(luò)模型中頻繁置入轉(zhuǎn)置算子以進(jìn)行格式轉(zhuǎn)換。

在處理圖像數(shù)據(jù)的時(shí)候,經(jīng)常遇到輸入圖像的維數(shù)與算子的輸入維度不符合的情況,這時(shí)需要變形算子來(lái)調(diào)整輸入圖像的維度數(shù)量。由于每個(gè)算子可接受的維度數(shù)量不一定相同,導(dǎo)致神經(jīng)網(wǎng)絡(luò)模型中頻繁置入變形算子以調(diào)整維度數(shù)量。

當(dāng)神經(jīng)網(wǎng)絡(luò)模型中存在許多轉(zhuǎn)置和變形算子時(shí),會(huì)使得網(wǎng)絡(luò)運(yùn)行時(shí)間過(guò)長(zhǎng)。現(xiàn)有的優(yōu)化方案只企圖優(yōu)化特定算子前后的轉(zhuǎn)置和變形算子,無(wú)法改善位于分支節(jié)點(diǎn)、合并節(jié)點(diǎn)以及輸入/輸出端的轉(zhuǎn)置和變形算子。

因此,一種優(yōu)化維度算子的方案是迫切需要的。

發(fā)明內(nèi)容

為了至少部分地解決背景技術(shù)中提到的技術(shù)問(wèn)題,本發(fā)明的方案提供了一種優(yōu)化神經(jīng)網(wǎng)絡(luò)模型中原始維度算子的裝置和方法。

在一個(gè)方面中,本發(fā)明揭露一種優(yōu)化神經(jīng)網(wǎng)絡(luò)模型中原始維度算子的方法,包括遍歷所述神經(jīng)網(wǎng)絡(luò)模型,以:識(shí)別所述神經(jīng)網(wǎng)絡(luò)模型的關(guān)鍵節(jié)點(diǎn);在所述關(guān)鍵節(jié)點(diǎn)處置入成對(duì)維度算子;結(jié)合所述成對(duì)維度算子其中之一與所述原始維度算子;以及基于結(jié)合后的所述神經(jīng)網(wǎng)絡(luò)模型進(jìn)行推理。

在另一個(gè)方面,本發(fā)明揭露一種優(yōu)化神經(jīng)網(wǎng)絡(luò)模型中原始維度算子的處理裝置,包括識(shí)別模塊、置入模塊及結(jié)合模塊。識(shí)別模塊用以識(shí)別所述神經(jīng)網(wǎng)絡(luò)模型的關(guān)鍵節(jié)點(diǎn);置入模塊用以在所述關(guān)鍵節(jié)點(diǎn)處置入成對(duì)維度算子;結(jié)合模塊用以結(jié)合所述成對(duì)維度算子其中之一與所述原始維度算子。

本發(fā)明試著從關(guān)鍵節(jié)點(diǎn)減少神經(jīng)網(wǎng)絡(luò)中維度算子的數(shù)量,并基于結(jié)合后的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行推理,以提升網(wǎng)絡(luò)的運(yùn)行時(shí)間和減少硬件資源的消耗。

附圖說(shuō)明

通過(guò)參考附圖閱讀下文的詳細(xì)描述,本發(fā)明示例性實(shí)施方式的上述以及其他目的、特征和優(yōu)點(diǎn)將變得易于理解。在附圖中,以示例性而非限制性的方式示出了本發(fā)明的若干實(shí)施方式,并且相同或?qū)?yīng)的標(biāo)號(hào)表示相同或?qū)?yīng)的部分其中:

圖1A是示出示例性的三維數(shù)組;

圖1B是示出轉(zhuǎn)換后的三維數(shù)組;

圖2是示出變形后的三維矩陣的示意圖;

圖3是示出本發(fā)明實(shí)施例的處理裝置的示意圖;

圖4是示出本發(fā)明實(shí)施例的待優(yōu)化的神經(jīng)網(wǎng)絡(luò)模型的示意圖;

圖5是示出本發(fā)明另一實(shí)施例的待優(yōu)化的神經(jīng)網(wǎng)絡(luò)模型的示意圖;

圖6是示出本發(fā)明另一實(shí)施例的待優(yōu)化的神經(jīng)網(wǎng)絡(luò)模型的示意圖;

圖7是示出本發(fā)明另一實(shí)施例的待優(yōu)化的神經(jīng)網(wǎng)絡(luò)模型的示意圖;以及

圖8是示出本發(fā)明另一實(shí)施例優(yōu)化神經(jīng)網(wǎng)絡(luò)模型中原始維度算子的流程圖。

具體實(shí)施方式

下載完整專利技術(shù)內(nèi)容需要扣除積分,VIP會(huì)員可以免費(fèi)下載。

該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于安徽寒武紀(jì)信息科技有限公司,未經(jīng)安徽寒武紀(jì)信息科技有限公司許可,擅自商用是侵權(quán)行為。如果您想購(gòu)買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請(qǐng)聯(lián)系【客服

本文鏈接:http://www.szxzyx.cn/pat/books/202011449721.2/2.html,轉(zhuǎn)載請(qǐng)聲明來(lái)源鉆瓜專利網(wǎng)。

×

專利文獻(xiàn)下載

說(shuō)明:

1、專利原文基于中國(guó)國(guó)家知識(shí)產(chǎn)權(quán)局專利說(shuō)明書;

2、支持發(fā)明專利 、實(shí)用新型專利、外觀設(shè)計(jì)專利(升級(jí)中);

3、專利數(shù)據(jù)每周兩次同步更新,支持Adobe PDF格式;

4、內(nèi)容包括專利技術(shù)的結(jié)構(gòu)示意圖流程工藝圖技術(shù)構(gòu)造圖

5、已全新升級(jí)為極速版,下載速度顯著提升!歡迎使用!

請(qǐng)您登陸后,進(jìn)行下載,點(diǎn)擊【登陸】 【注冊(cè)】

關(guān)于我們 尋求報(bào)道 投稿須知 廣告合作 版權(quán)聲明 網(wǎng)站地圖 友情鏈接 企業(yè)標(biāo)識(shí) 聯(lián)系我們

鉆瓜專利網(wǎng)在線咨詢

周一至周五 9:00-18:00

咨詢?cè)诰€客服咨詢?cè)诰€客服
tel code back_top
主站蜘蛛池模板: 免费看欧美中韩毛片影院| 国产真裸无庶纶乱视频| 对白刺激国产对白精品城中村| 国产床戏无遮挡免费观看网站 | 中文字幕在线一区二区三区| 国产91久| 亚洲精品97久久久babes| 国产福利一区在线观看| 韩国视频一区二区| 一色桃子av| 日韩欧美中文字幕精品| 国产精品美女久久久另类人妖| 国产午夜精品一区二区三区在线观看| 亚洲乱强伦| 中文字幕一级二级三级| 精品中文久久| 狠狠色噜噜狠狠狠狠色综合久老司机| 自偷自拍亚洲| 国产精品亚发布| 亚洲欧美国产精品va在线观看| 国产精欧美一区二区三区久久| 欧美日韩激情在线| 欧美一区二区三区艳史| 国产在线不卡一| 欧美日韩综合一区| 国产高清无套内谢免费| 91日韩一区二区三区| 国产二区三区视频| 免费欧美一级视频| 一区二区欧美精品| 国产一区二区三区网站| 国产999精品视频| 国产一级大片| 国内精品久久久久久久星辰影视| 91精品国产高清一区二区三区| 农村妇女毛片精品久久| 久久99精品国产麻豆婷婷洗澡| 国产精品自拍在线观看| 日韩亚洲精品在线| 亚洲神马久久| 久久久中精品2020中文 | 亚洲区日韩| 日韩精品人成在线播放| 欧美日韩一区二区三区四区五区| 国产亚洲精品久久久久久网站 | 国产在线拍揄自揄拍| 国产经典一区二区三区| 日韩一级视频在线| 日韩国产欧美中文字幕| 久久国产精品免费视频| 亚洲激情中文字幕| 欧美日韩国产三区| 国产精品久久久久免费a∨大胸| 欧美国产精品久久| 日韩欧美国产中文字幕| 91秒拍国产福利一区| 亚洲欧美一二三| 91九色精品| 99国产精品永久免费视频| 中文字幕久久精品一区| 性欧美1819sex性高播放| 午夜电影一区二区三区| 欧美日韩中文不卡| 日日夜夜精品免费看| 日韩av在线导航| 欧美二区在线视频| 国产伦精品一区二区三区照片91| 久久免费福利视频| 99精品偷拍视频一区二区三区| 欧美日韩国产在线一区二区三区| xxxx在线视频| 欧美一区二区三区激情| 91麻豆产精品久久久| 一区二区在线国产| 国产精品欧美一区二区三区| 精品国产乱码一区二区三区在线| 国产乱人激情h在线观看| 色婷婷综合久久久中文一区二区| 欧美精品国产精品| 高清欧美精品xxxxx在线看| 欧美极品少妇videossex| 26uuu色噜噜精品一区二区| 538国产精品一区二区在线| 国产女人与拘做受免费视频| 国产精品一区二区三| 国产精品久久久久久亚洲调教| 欧美视频1区| xx性欧美hd| 伊人久久婷婷色综合98网| 欧美精品免费一区二区三区 | 久久一区二区精品视频| 国产欧美一区二区三区在线| 国产乱一区二区三区视频| 国产盗摄91精品一区二区三区| 久久国产精品视频一区| 亚洲精品456在线播放| 久久99精品久久久久国产越南 | 精品国产九九九 | 久久精品亚洲精品国产欧美| 久久天堂国产香蕉三区| 91精品国产麻豆国产自产在线| 大伊人av| 夜夜精品视频一区二区| 欧美日韩一区二区三区不卡视频| 色综合久久精品| 日韩av不卡一区二区| 91精品国产91热久久久做人人 | 免费精品99久久国产综合精品应用| 美女张开腿黄网站免费| 国产一区二区午夜| 狠狠色噜噜狠狠狠狠88| 欧美在线观看视频一区二区三区| 国产真裸无庶纶乱视频| 中文字幕+乱码+中文字幕一区| 欧美性xxxxx极品少妇| 国产精品久久久久久av免费看| 中文乱幕日产无线码1区| 99久久精品免费看国产交换| 精品国产一二区| 国产精品自拍在线| 少妇自拍一区| 欧美日韩偷拍一区| 久久九九亚洲| 69久久夜色精品国产7777| 精品一区二区三区视频?| 国产欧美二区| 国产999在线观看| 国产精品自产拍在线观看蜜| 日本亚洲国产精品| 中文字幕一区三区| 日韩一区免费| 国产91白嫩清纯初高中在线| 波多野结衣巨乳女教师| 挺进警察美妇后菊| 久久久精品视频在线| 国产亚洲精品久久yy50| 国产精品视频免费看人鲁| 亚洲少妇一区二区| 亚洲一区中文字幕| 国产欧美日韩精品一区二区图片 | 二区三区免费视频| 亚洲一区二区国产精品| 久久久精品中文| 一区二区中文字幕在线观看| 91一区二区三区视频| 91一区二区三区在线| 午夜影皖精品av在线播放| 国产精品欧美久久| 国产伦精品一区二区三区照片91| 欧美色图视频一区| 欧美日韩一区二区三区在线播放| 日韩欧美国产高清91| 午夜影院啊啊啊| 国产精品高潮在线| 日韩av视屏在线观看| 日韩精品免费一区二区中文字幕 | 国产白嫩美女在线观看| 欧美一级久久精品| 日日夜夜一区二区| 欧美精品在线一区二区| 国产高清无套内谢免费| 久久久精品久久日韩一区综合| 午夜看片网址| 日本精品一二三区| 特高潮videossexhd| 激情久久久| 国产偷窥片| 日本精品一二三区| 欧美精品在线视频观看| 夜夜夜夜曰天天天天拍国产| 欧美一区二区三区三州| 国产精品电影免费观看| 亚洲精品www久久久| 91麻豆精品国产91久久| 欧美视频1区| 久久国产欧美一区二区三区免费| 免费看片一区二区三区| 国产视频一区二区不卡| 久久免费视频一区| 91视频国产九色| 久久午夜鲁丝片| 97人人澡人人爽人人模亚洲 | 狠狠躁夜夜躁| 亚洲国产精品综合| 精品欧美一区二区精品久久小说| 中文在线一区| **毛片免费| 亚洲精品suv精品一区二区| 91麻豆产精品久久久| 国产91丝袜在线| 一区二区三区国产欧美| 色婷婷综合久久久中文一区二区| 久久国产精品视频一区| 玖玖爱国产精品| 99精品区| 国产伦高清一区二区三区| 99久久夜色精品国产网站| 91精品国产91热久久久做人人 | 国产精品视频一区二区三| 国产精品久久国产三级国电话系列 | 国产伦精品一区二区三区免费迷| 国产精品免费一区二区区| 小萝莉av| 国产精品乱码一区| 91精品国产一区二区三区| ass美女的沟沟pics| 国产日韩欧美精品一区二区| 国产精品19乱码一区二区三区| 毛片大全免费观看| 国产一区二区二| 91精品久| 国产91免费在线| 狠狠色综合久久婷婷色天使| 亚洲午夜精品一区二区三区电影院 | 国产在线精品二区| xoxoxo亚洲国产精品| 国产一区二区三区小说 | 午夜亚洲国产理论片一二三四 | 国产精品美女久久久另类人妖| 国产一区在线视频观看| 国产伦理久久精品久久久久| 日本少妇一区二区三区| 精品国产一区二区三区忘忧草| 99久久婷婷国产精品综合| 欧美日韩国产一级| 午夜国产一区二区三区四区| 国产91丝袜在线熟| 精品久久久久久亚洲综合网| 麻豆91在线| 99国产精品一区二区| 亚洲制服丝袜在线| 91麻豆精品国产91久久久无限制版| 狠狠干一区| 中文字幕a一二三在线| 久久国产精品二区| 日本大码bbw肉感高潮| 久久久久亚洲国产精品| 亚洲精品老司机| 国产一区亚洲一区| 亚洲欧美日韩另类精品一区二区三区| 日韩国产精品久久久久久亚洲| 国产一区二区电影在线观看| 狠狠色丁香久久婷婷综合_中| 国产一区二区黄| 色婷婷综合久久久久中文| 精品一区二区超碰久久久|