[發(fā)明專利]一種針對深度學習半精度算子數(shù)據(jù)訪存對界處理方法在審
| 申請?zhí)枺?/td> | 202110479722.X | 申請日： | 2021-04-30 |
| 公開（公告）號： | CN114218141A | 公開（公告）日： | 2022-03-22 |
| 發(fā)明（設計）人： | 劉鑫;劉沙;陳德訓;彭超;黃則強;高捷;王宜鵬 | 申請（專利權(quán)）人： | 無錫江南計算技術(shù)研究所 |
| 主分類號： | G06F13/28 | 分類號： | G06F13/28 |
| 代理公司： | 蘇州創(chuàng)元專利商標事務所有限公司 32103 | 代理人： | 王健 |
| 地址： | 214038 江蘇*** | 國省代碼： | 江蘇;32 |
| 權(quán)利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關(guān)鍵詞： | 一種 針對 深度 學習 精度 算子 數(shù)據(jù) 處理 方法 | ||
1.一種針對深度學習半精度算子數(shù)據(jù)訪存對界處理方法，其特征在于：針對深度學習中算子的計算特點和張量空間分布，對多維張量的特定維度做4B對界處理，將四維張量的輸入數(shù)據(jù)按照實際參與計算的維度分為不同的類，分別使用不同的半精度數(shù)據(jù)對界處理方法；
具體為，根據(jù)輸入的算子類型和輸入數(shù)據(jù)的計算維度，選擇不同的對界方法：
S1、對于一維計算（如激活函數(shù)），計算總數(shù)據(jù)量len=N*C*H*W，若len為奇數(shù)，單個半精度浮點數(shù)為2B，不滿足對界要求，在len的最末尾添加一個0，使之滿足對界同時不影響計算結(jié)果；
S2、對于包括softmax、fc、pool、spatialBN的二維計算，實際計算是以二維的方式計算，對于一個N*M的二維張量，在二維張量增加一行0或增加一列0 ，使得M或N為偶數(shù)以滿足對界，分別為：
當需要增加一行0時，設M=C*H*W，則在N*C*H*W的末尾增加C*H*W個0；
二維張量增加一列0的對界方法在四維張量中對界策略分為以下三種：
1、對于fc和softmax算子，設M=C*H*W，在四維張量中，在每個C*H*W后末尾加一個0；
2、 對于spatialBN算子，在每個H*W*的末尾添加一個0，以滿足跨步大小對界；
3、對于pool算子，在每個W末尾添加一個0，以滿足W維度4B對界，；
S3、對于三維計算，實際計算是以三維張量參與實際計算，為N、C、H*W，其中，H*W維度的對界策略可歸為S2中的二維數(shù)組對界，C維度的對界策略為在每個C*H*W末尾增加H*W個0，使得C和H*W均為偶數(shù)以便滿足4B對界。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息，商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于無錫江南計算技術(shù)研究所，未經(jīng)無錫江南計算技術(shù)研究所許可，擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作，請聯(lián)系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202110479722.X/1.html，轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
