[發(fā)明專利]高精度錨定隱式處理

在審

• 申請?zhí)枺?/td>: 202180071446.1
• 申請日: 2021-10-21
• 公開（公告）號: CN116368462A
• 公開（公告）日: 2023-06-30
• 發(fā)明（設(shè)計）人: N·伯吉斯;C·N·海因茲;D·R·盧茨;P·O·費雷拉
• 申請（專利權(quán)）人: Arm有限公司
• 主分類號: G06F7/544
• 分類號: G06F7/544
• 代理公司: 北京同立鈞成知識產(chǎn)權(quán)代理有限公司 11205
• 代理人: 王茜;臧建明

本公開涉及一種包括處理電路和存儲設(shè)備的裝置。該處理電路被配置為響應(yīng)于一個或多個指令來執(zhí)行一個或多個處理操作以生成錨定數(shù)據(jù)元素。該存儲設(shè)備被配置為存儲該錨定數(shù)據(jù)元素。該錨定數(shù)據(jù)元素的格式包括識別項、重疊項和數(shù)據(jù)項。該數(shù)據(jù)項被配置為保持該錨定數(shù)據(jù)元素的數(shù)據(jù)值。該識別項指示針對該數(shù)據(jù)值或一個或多個特殊值的錨定值。

技術(shù)領(lǐng)域

本公開涉及數(shù)據(jù)處理，尤其涉及利用具有嵌入錨定值的高精度錨定隱式(HPAI)數(shù)的數(shù)據(jù)處理。

通常在諸如神經(jīng)網(wǎng)絡(luò)和機器學(xué)習(xí)的數(shù)據(jù)處理系統(tǒng)中使用浮點表示。浮點數(shù)包括有效數(shù)和指示該有效數(shù)的位的有效值的指數(shù)。浮點格式允許使用有限數(shù)量的位來表示大范圍內(nèi)的數(shù)值。然而，處理浮點數(shù)的專用硬件通常是復(fù)雜的，并且通常比處理基于整數(shù)的數(shù)的可比較硬件更慢。為了減少硬件問題，創(chuàng)建了“利用16位的腦浮點格式”(bfloat16)格式，其比單精度IEEE-754標(biāo)準(zhǔn)浮點格式使用更少的位。然而，浮點數(shù)的求和是非結(jié)合的，這意味著當(dāng)以不同順序添加浮點數(shù)時會得到不同的結(jié)果。例如，在涉及bfloat16值的計算中，(2⁴+2²⁰)-2²⁰＝(2²⁰)-2²⁰＝0。相比之下，2⁴+(2²⁰-2²⁰)＝2⁴+(0)＝2⁴＝16。

發(fā)明內(nèi)容

本文提供了一種裝置。該裝置包括處理電路和存儲設(shè)備。該處理電路被配置為響應(yīng)于一個或多個指令來執(zhí)行一個或多個處理操作以生成錨定數(shù)據(jù)元素。該存儲設(shè)備被配置為存儲該錨定數(shù)據(jù)元素。該錨定數(shù)據(jù)元素的格式包括識別項、重疊項和數(shù)據(jù)項。該數(shù)據(jù)項被配置為保持該錨定數(shù)據(jù)元素的數(shù)據(jù)值。該識別項指示針對數(shù)據(jù)值或一個或多個特殊值的錨定值。

本文提供了一種控制數(shù)據(jù)處理的方法。該方法包括：控制處理電路以響應(yīng)于一個或多個指令來執(zhí)行一個或多個處理操作以生成錨定數(shù)據(jù)元素，以及存儲該錨定數(shù)據(jù)元素。該錨定數(shù)據(jù)元素的格式包括識別項、重疊項和數(shù)據(jù)項。該數(shù)據(jù)項被配置為保持該錨定數(shù)據(jù)元素的數(shù)據(jù)值。該識別項指示針對數(shù)據(jù)值或一個或多個特殊值的錨定值。

本文提供了一種存儲控制數(shù)據(jù)處理的指令的非暫態(tài)計算機可讀存儲介質(zhì)。該指令在由處理器執(zhí)行時使得該處理器執(zhí)行多個操作。該多個操作包括：控制處理電路以響應(yīng)于該指令來執(zhí)行一個或多個處理操作以生成錨定數(shù)據(jù)元素，以及存儲該錨定數(shù)據(jù)元素。該錨定數(shù)據(jù)元素的格式包括識別項、重疊項和數(shù)據(jù)項。該數(shù)據(jù)項被配置為保持該錨定數(shù)據(jù)元素的數(shù)據(jù)值。該識別項指示針對數(shù)據(jù)值或一個或多個特殊值的錨定值。

從下面結(jié)合附圖對用于實施本公開的最佳模式的詳細(xì)描述中，本公開的上述特征和優(yōu)點以及其它特征和優(yōu)點是顯而易見的。

附圖說明

圖1是示出根據(jù)一個或多個示例性實施方案的用于在程序指令的控制下執(zhí)行數(shù)據(jù)處理操作的數(shù)據(jù)處理設(shè)備的示意圖。

圖2是示出根據(jù)一個或多個示例性實施方案的數(shù)值的各種表示的示意圖。

圖3是根據(jù)一個或多個示例性實施方案的錨定數(shù)據(jù)元素的示意圖。

圖4是示出根據(jù)一個或多個示例性實施方案的能夠用單精度浮點值表示的值的范圍與錨定數(shù)據(jù)元素的有效值范圍之間的關(guān)系的示意圖。

圖5是根據(jù)一個或多個示例性實施方案的累加器的示意圖。

圖6是根據(jù)一個或多個示例性實施方案的bfloat16數(shù)到HPAI累加器中的第一轉(zhuǎn)換的示意圖。

圖7是根據(jù)一個或多個示例性實施方案的bfloat16數(shù)到HPAI累加器中的第二轉(zhuǎn)換的示意圖。

圖8是根據(jù)一個或多個示例性實施方案的從bfloat16值到錨定數(shù)據(jù)元素的轉(zhuǎn)換數(shù)據(jù)路徑的示意圖。

圖9是根據(jù)一個或多個示例性實施方案的單通道HPAI累加數(shù)據(jù)路徑的示意圖。