[發(fā)明專利]硬件加速器執(zhí)行的方法、硬件加速器和神經(jīng)網(wǎng)絡(luò)裝置

在審

• 申請?zhí)枺?/td>: 202110282175.6
• 申請日: 2021-03-16
• 公開（公告）號: CN113407747A
• 公開（公告）日: 2021-09-17
• 發(fā)明（設(shè)計）人: 伊霍爾·瓦希爾特索夫;張祐錫
• 申請（專利權(quán)）人: 三星電子株式會社
• 主分類號: G06F16/51
• 分類號: G06F16/51;G06F16/53;G06F16/55;G06N3/04;G06N3/063;G06N3/08
• 代理公司: 北京銘碩知識產(chǎn)權(quán)代理有限公司 11286
• 代理人: 黃曉燕;張川緒

1.一種硬件加速器執(zhí)行的方法，包括：

接收待分類圖像；

通過對待分類圖像執(zhí)行與神經(jīng)網(wǎng)絡(luò)的全連接層對應(yīng)的計算處理，生成與待分類圖像被分類到相應(yīng)類的概率相關(guān)的結(jié)果值，作為概率相關(guān)數(shù)據(jù)；

加載查找表；

基于概率相關(guān)數(shù)據(jù)的概率相關(guān)數(shù)據(jù)分布，將概率相關(guān)數(shù)據(jù)的每個概率相關(guān)數(shù)據(jù)值映射到查找表中的索引；

使用查找表獲得與概率相關(guān)數(shù)據(jù)值對應(yīng)的輸出數(shù)據(jù)值；以及

基于輸出數(shù)據(jù)值確定待分類圖像所屬的類，

其中，輸出數(shù)據(jù)值與概率相關(guān)數(shù)據(jù)值的相應(yīng)柔性最大值成比例。

2.根據(jù)權(quán)利要求1所述的方法，還包括：

計算概率相關(guān)數(shù)據(jù)的最大的概率相關(guān)數(shù)據(jù)值與每個概率相關(guān)數(shù)據(jù)值之間的差。

3.根據(jù)權(quán)利要求2所述的方法，其中，映射的步驟包括：

直接將將所述差映射到索引。

4.根據(jù)權(quán)利要求2所述的方法，其中，映射的步驟包括：

對所述差進(jìn)行縮放并將縮放后的差映射到索引。

5.根據(jù)權(quán)利要求1所述的方法，其中，查找表在其中存儲與對應(yīng)于索引的指數(shù)函數(shù)的倒數(shù)相關(guān)聯(lián)的信息。

6.根據(jù)權(quán)利要求5所述的方法，其中，與指數(shù)函數(shù)的倒數(shù)相關(guān)聯(lián)的信息包括與這樣的整數(shù)相關(guān)聯(lián)的信息：基于用于輸出數(shù)據(jù)值的量化的比特數(shù)的與指數(shù)函數(shù)的倒數(shù)對應(yīng)的整數(shù)。

7.根據(jù)權(quán)利要求2所述的方法，其中，查找表包括多個查找表，并且

其中，加載的步驟包括：

基于通過計算獲得的差中的最大差來確定索引范圍；以及

基于確定的索引范圍來加載所述多個查找表中的一個查找表。

8.根據(jù)權(quán)利要求2所述的方法，其中，加載的步驟包括：

基于通過計算獲得的差中的最大差來確定索引范圍；以及

加載基于確定的索引范圍實時生成的查找表。

9.根據(jù)權(quán)利要求1所述的方法，其中，獲得輸出數(shù)據(jù)值的步驟包括：

將移位寄存器的時鐘映射到索引；以及

使用移位寄存器獲得輸出數(shù)據(jù)值。

10.根據(jù)權(quán)利要求1至9中的任意一項所述的方法，還包括：

加載補(bǔ)償系數(shù)查找表；

計算與概率相關(guān)數(shù)據(jù)值對應(yīng)的輸出數(shù)據(jù)值的和；

將輸出數(shù)據(jù)值的和映射到補(bǔ)償系數(shù)查找表中的索引；

使用補(bǔ)償系數(shù)查找表獲得與概率相關(guān)數(shù)據(jù)值對應(yīng)的補(bǔ)償系數(shù)；以及

基于補(bǔ)償系數(shù)獲得與概率相關(guān)數(shù)據(jù)值對應(yīng)的歸一化輸出數(shù)據(jù)值。

11.根據(jù)權(quán)利要求1至9中的任意一項所述的方法，其中，硬件加速器是神經(jīng)處理器。

12.根據(jù)權(quán)利要求1至9中的任意一項所述的方法，其中，中央處理器被配置為生成查找表。

13.一種存儲指令的非暫時性計算機(jī)可讀存儲介質(zhì)，所述指令在由一個或多個處理器執(zhí)行時，配置所述一個或多個處理器執(zhí)行根據(jù)權(quán)利要求1至12中的任意一項所述的方法。

14.一種硬件加速器，包括：

一個或多個處理器，被配置為：接收待分類圖像，通過對待分類圖像執(zhí)行與神經(jīng)網(wǎng)絡(luò)的全連接層對應(yīng)的計算處理，生成與待分類圖像被分類到相應(yīng)類的概率相關(guān)的結(jié)果值作為概率相關(guān)數(shù)據(jù)，加載查找表，基于概率相關(guān)數(shù)據(jù)的概率相關(guān)數(shù)據(jù)分布將每個概率相關(guān)數(shù)據(jù)值映射到查找表中的索引，使用查找表獲得與概率相關(guān)數(shù)據(jù)值對應(yīng)的輸出數(shù)據(jù)值，以及基于輸出數(shù)據(jù)值確定待分類圖像所屬的類，

其中，輸出數(shù)據(jù)值與概率相關(guān)數(shù)據(jù)值的相應(yīng)柔性最大值成比例。