[發(fā)明專利]一種計(jì)算裝置及板卡有效
| 申請?zhí)枺?/td> | 201811560966.5 | 申請日: | 2018-12-20 |
| 公開(公告)號: | CN109711540B | 公開(公告)日: | 2021-09-21 |
| 發(fā)明(設(shè)計(jì))人: | 不公告發(fā)明人 | 申請(專利權(quán))人: | 中科寒武紀(jì)科技股份有限公司 |
| 主分類號: | G06N3/063 | 分類號: | G06N3/063 |
| 代理公司: | 廣州三環(huán)專利商標(biāo)代理有限公司 44202 | 代理人: | 郝傳鑫;熊永強(qiáng) |
| 地址: | 100000 北京市海*** | 國省代碼: | 北京;11 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 計(jì)算 裝置 板卡 | ||
1.一種GRU的運(yùn)算方法,其特征在于,所述GRU包括:輸入層、隱層、重置門、更新門、當(dāng)前記憶門和輸出層,所述運(yùn)算方法應(yīng)用于計(jì)算裝置,所述運(yùn)算方法包括:
所述計(jì)算裝置獲取輸入層t時(shí)刻輸入的輸入數(shù)據(jù)xt、前一個(gè)GRU的隱層輸入的輸出數(shù)據(jù)ht-1和權(quán)值;獲取偏置;將所述權(quán)值和所述偏置拆分為成與所述重置門、所述更新門以及所述當(dāng)前記憶門對應(yīng)的權(quán)值和偏置塊,并對權(quán)值和偏置塊添加與所述重置門、所述更新門以及所述當(dāng)前記憶門、所述輸入數(shù)據(jù)xt以及所述輸出數(shù)據(jù)ht-1對應(yīng)的標(biāo)識信息;
所述計(jì)算裝置從預(yù)先封裝的函數(shù)庫中調(diào)用預(yù)先構(gòu)造的GRU算子;
所述計(jì)算裝置將輸入數(shù)據(jù)xt、輸出數(shù)據(jù)ht-1、權(quán)值輸入到所述預(yù)先構(gòu)造的GRU算子中,得到輸出結(jié)果ht,其中,在計(jì)算所述重置門、所述更新門以及所述當(dāng)前記憶門的輸出結(jié)果時(shí),依據(jù)對應(yīng)的標(biāo)識信息查詢到與所述重置門、所述更新門以及所述當(dāng)前記憶門對應(yīng)的權(quán)值和偏置塊后,與對應(yīng)的輸入數(shù)據(jù)和輸出數(shù)據(jù)進(jìn)行運(yùn)算。
2.根據(jù)權(quán)利要求1所述的方法,其特征在于,所述將輸入數(shù)據(jù)xt、輸出數(shù)據(jù)ht-1、權(quán)值輸入到所述預(yù)先構(gòu)造的GRU算子中,得到輸出結(jié)果ht具體包括:
將輸入數(shù)據(jù)xt、輸出數(shù)據(jù)ht-1、權(quán)值輸入到所述GRU算子中與重置門對應(yīng)的算子中,得到重置門的輸出結(jié)果rt;
將輸入數(shù)據(jù)xt、輸出數(shù)據(jù)ht-1、權(quán)值輸入到所述GRU算子中與更新門對應(yīng)的算子中,得到更新門的輸出結(jié)果zt;
將輸入數(shù)據(jù)xt、輸出數(shù)據(jù)ht-1、權(quán)值以及重置門的的輸出結(jié)果rt輸入到所述GRU算子中與當(dāng)前記憶門對應(yīng)的算子中,得到當(dāng)前記憶門的輸出結(jié)果nt;
將更新門的輸出結(jié)果zt、當(dāng)前記憶門的輸出結(jié)果nt以及輸出數(shù)據(jù)ht-1輸入到所述GRU算子中與輸出層對應(yīng)的算子中,得到輸出結(jié)果ht。
3.根據(jù)權(quán)利要求2所述的方法,其特征在于,所述將輸入數(shù)據(jù)xt、輸出數(shù)據(jù)ht-1、權(quán)值輸入到所述GRU算子中與重置門對應(yīng)的算子中,得到重置門的輸出結(jié)果rt具體包括:
獲取所述GRU算子中與重置門對應(yīng)的第一乘法算子、第二乘法算子、第一加法算子以及第一激活算子,所述第一激活算子的激活類型為sigmoid;
將輸入數(shù)據(jù)xt、權(quán)值以及偏置輸入到所述第一乘法算子中,計(jì)算(Wir*xt+bir),得到第一運(yùn)算結(jié)果,Wir和bir為權(quán)值和偏置中分別與重置門對應(yīng)的第一權(quán)值和第一偏置;
將輸出數(shù)據(jù)ht-1、權(quán)值以及偏置輸入到所述第二乘法算子中,計(jì)算(Whr*ht-1+bhr),得到第二運(yùn)算結(jié)果,Whr和bhr為權(quán)值和偏置中分別與重置門對應(yīng)的第二權(quán)值和第二偏置;
將所述第一運(yùn)算結(jié)果和所述第二運(yùn)算結(jié)果輸入到所述第一加法算子中求和,得到第一求和結(jié)果;
將所述第一求和結(jié)果輸入到所述第一激活算子中激活,得到重置門的輸出結(jié)果rt。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于中科寒武紀(jì)科技股份有限公司,未經(jīng)中科寒武紀(jì)科技股份有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201811560966.5/1.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。





