[發(fā)明專利]浮點(diǎn)運(yùn)算定點(diǎn)化方法及系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 201710606500.3
• 申請(qǐng)日: 2017-07-24
• 公開（公告）號(hào): CN107451658B
• 公開（公告）日: 2020-12-15
• 發(fā)明（設(shè)計(jì)）人: 丁昊杰;王文華
• 申請(qǐng)（專利權(quán)）人: 杭州菲數(shù)科技有限公司
• 主分類號(hào): G06N3/063
• 分類號(hào): G06N3/063;G06N3/08;G06F7/38
• 代理公司: 杭州裕陽聯(lián)合專利代理有限公司 33289
• 代理人: 姚宇吉

1.一種浮點(diǎn)運(yùn)算定點(diǎn)化方法，其特征在于包括以下步驟：

根據(jù)預(yù)設(shè)的數(shù)值范圍以及計(jì)算的精度需求，調(diào)整可調(diào)精度浮點(diǎn)數(shù)據(jù)的指數(shù)和有效位，所述可調(diào)精度浮點(diǎn)數(shù)據(jù)包括符號(hào)、指數(shù)和有效數(shù)；

所述可調(diào)精度浮點(diǎn)數(shù)據(jù)的指數(shù)的位寬和有效數(shù)的位寬隨所述數(shù)值范圍和所述精度要求的變化做相應(yīng)調(diào)整；

預(yù)先將單精度浮點(diǎn)格式的參數(shù)數(shù)據(jù)轉(zhuǎn)換為可調(diào)精度浮點(diǎn)數(shù)據(jù)，具體步驟包括：

單精度浮點(diǎn)數(shù)據(jù)定點(diǎn)化，將含有小數(shù)的單精度浮點(diǎn)數(shù)據(jù)乘以系數(shù)后轉(zhuǎn)換為定點(diǎn)整數(shù)；

將轉(zhuǎn)換后的定點(diǎn)整數(shù)表示為二進(jìn)制數(shù)，并根據(jù)可調(diào)精度浮點(diǎn)數(shù)據(jù)有效數(shù)所支持的位寬對(duì)此二進(jìn)制定點(diǎn)整數(shù)向右移位，移位后的數(shù)據(jù)即有效數(shù)，并根據(jù)移位的位數(shù)確定指數(shù)，將有效數(shù)添加上指數(shù)和符號(hào)位后即為可調(diào)精度浮點(diǎn)數(shù)據(jù)；

計(jì)算時(shí)將所述可調(diào)精度浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換為定點(diǎn)數(shù)據(jù)并用于計(jì)算，并將計(jì)算產(chǎn)生的中間結(jié)果轉(zhuǎn)換為可調(diào)精度浮點(diǎn)數(shù)據(jù)；

待全部計(jì)算完成后產(chǎn)生最終結(jié)果，將最終結(jié)果轉(zhuǎn)換為單精度浮點(diǎn)格式數(shù)據(jù)；

在FPGA或其它神經(jīng)網(wǎng)絡(luò)運(yùn)算芯片內(nèi)部將可調(diào)精度浮點(diǎn)數(shù)據(jù)送入到定點(diǎn)DSP進(jìn)行運(yùn)算前需要將可調(diào)精度浮點(diǎn)還原為定點(diǎn)數(shù)據(jù)，需要根據(jù)符號(hào)、指數(shù)對(duì)有效數(shù)進(jìn)行處理，轉(zhuǎn)換為定點(diǎn)數(shù)據(jù)，定點(diǎn)運(yùn)算后的中間結(jié)果需要存儲(chǔ)到DDR之前同樣需要進(jìn)行定點(diǎn)數(shù)據(jù)到可調(diào)精度浮點(diǎn)數(shù)據(jù)的轉(zhuǎn)換，以提升數(shù)據(jù)傳輸?shù)男室约胺奖阍俅巫x回FPGA時(shí)數(shù)據(jù)的統(tǒng)一處理。

2.根據(jù)權(quán)利要求1所述的浮點(diǎn)運(yùn)算定點(diǎn)化方法，其特征在于：所述將所述可調(diào)精度浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換為定點(diǎn)數(shù)據(jù)的具體步驟包括：

根據(jù)所述可調(diào)精度浮點(diǎn)數(shù)據(jù)的指數(shù)大小對(duì)所述可調(diào)精度浮點(diǎn)數(shù)據(jù)的有效數(shù)向左移位，移位的位數(shù)由指數(shù)確定；

移位后判斷符號(hào)位，如果是負(fù)數(shù)將移位后的數(shù)據(jù)采用補(bǔ)碼表示。

3.根據(jù)權(quán)利要求1所述的浮點(diǎn)運(yùn)算定點(diǎn)化方法，其特征在于：所述根據(jù)預(yù)設(shè)的數(shù)值范圍以及計(jì)算的精度需求的具體設(shè)置過程為：

將神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練好的參數(shù)數(shù)據(jù)進(jìn)行歸納分析，確定參數(shù)數(shù)據(jù)的最大值和最小值，并對(duì)神經(jīng)網(wǎng)絡(luò)模型中的單精度浮點(diǎn)格式數(shù)據(jù)進(jìn)行模擬計(jì)算得到計(jì)算結(jié)果，根據(jù)計(jì)算結(jié)果確定數(shù)值范圍以及計(jì)算的精度要求，為可調(diào)精度浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換過程中的指數(shù)和有效數(shù)的調(diào)整提供依據(jù)。

4.一種浮點(diǎn)運(yùn)算定點(diǎn)化系統(tǒng)，其特征在于包括：

第一轉(zhuǎn)換模塊，用于根據(jù)預(yù)設(shè)的數(shù)值范圍以及計(jì)算的精度需求，調(diào)整可調(diào)精度浮點(diǎn)數(shù)據(jù)的指數(shù)和有效位，預(yù)先將單精度浮點(diǎn)格式的參數(shù)數(shù)據(jù)轉(zhuǎn)換為可調(diào)精度浮點(diǎn)數(shù)據(jù)，所述第一轉(zhuǎn)換模塊設(shè)置為：

所述可調(diào)精度浮點(diǎn)數(shù)據(jù)包括符號(hào)、指數(shù)和有效數(shù)；

所述可調(diào)精度浮點(diǎn)數(shù)據(jù)的指數(shù)的位寬和有效數(shù)的位寬隨所述數(shù)值范圍和所述精度要求的變化做相應(yīng)調(diào)整；

所述將單精度浮點(diǎn)格式的參數(shù)數(shù)據(jù)轉(zhuǎn)換為可調(diào)精度浮點(diǎn)數(shù)據(jù)的具體步驟包括：

單精度浮點(diǎn)數(shù)據(jù)定點(diǎn)化，將含有小數(shù)的單精度浮點(diǎn)數(shù)據(jù)乘以系數(shù)后轉(zhuǎn)換為定點(diǎn)整數(shù)；

將轉(zhuǎn)換后的定點(diǎn)整數(shù)表示為二進(jìn)制數(shù)，并根據(jù)可調(diào)精度浮點(diǎn)數(shù)據(jù)有效數(shù)所支持的位寬對(duì)此二進(jìn)制定點(diǎn)整數(shù)向右移位，移位后的數(shù)據(jù)即有效數(shù)，并根據(jù)移位的位數(shù)確定指數(shù)，將有效數(shù)添加上指數(shù)和符號(hào)位后即為可調(diào)精度浮點(diǎn)數(shù)據(jù)；

第二轉(zhuǎn)換模塊，用于計(jì)算時(shí)將所述可調(diào)精度浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換為定點(diǎn)數(shù)據(jù)并用于計(jì)算，并將計(jì)算產(chǎn)生的中間結(jié)果轉(zhuǎn)換為可調(diào)精度浮點(diǎn)數(shù)據(jù)；

第三轉(zhuǎn)換模塊，用于待全部計(jì)算完成后產(chǎn)生最終結(jié)果，將最終結(jié)果轉(zhuǎn)換為單精度浮點(diǎn)格式數(shù)據(jù)；

在FPGA或其它神經(jīng)網(wǎng)絡(luò)運(yùn)算芯片內(nèi)部將可調(diào)精度浮點(diǎn)數(shù)據(jù)送入到定點(diǎn)DSP進(jìn)行運(yùn)算前需要將可調(diào)精度浮點(diǎn)還原為定點(diǎn)數(shù)據(jù)，需要根據(jù)符號(hào)、指數(shù)對(duì)有效數(shù)進(jìn)行處理，轉(zhuǎn)換為定點(diǎn)數(shù)據(jù)，定點(diǎn)運(yùn)算后的中間結(jié)果需要存儲(chǔ)到DDR之前同樣需要進(jìn)行定點(diǎn)數(shù)據(jù)到可調(diào)精度浮點(diǎn)數(shù)據(jù)的轉(zhuǎn)換，以提升數(shù)據(jù)傳輸?shù)男室约胺奖阍俅巫x回FPGA時(shí)數(shù)據(jù)的統(tǒng)一處理。

5.根據(jù)權(quán)利要求4所述的浮點(diǎn)運(yùn)算定點(diǎn)化系統(tǒng)，其特征在于：所述第二轉(zhuǎn)換模塊設(shè)置為：

根據(jù)所述可調(diào)精度浮點(diǎn)數(shù)據(jù)的指數(shù)大小對(duì)所述可調(diào)精度浮點(diǎn)數(shù)據(jù)的有效數(shù)向左移位，移位的位數(shù)由指數(shù)確定；

移位后判斷符號(hào)位，如果是負(fù)數(shù)將移位后的數(shù)據(jù)采用補(bǔ)碼表示。

6.根據(jù)權(quán)利要求4所述的浮點(diǎn)運(yùn)算定點(diǎn)化系統(tǒng)，其特征在于：所述第一轉(zhuǎn)換模塊設(shè)置為：

將神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練好的參數(shù)數(shù)據(jù)進(jìn)行歸納分析，確定參數(shù)數(shù)據(jù)的最大值和最小值，并對(duì)神經(jīng)網(wǎng)絡(luò)模型中的單精度浮點(diǎn)格式數(shù)據(jù)進(jìn)行模擬計(jì)算得到計(jì)算結(jié)果，根據(jù)計(jì)算結(jié)果確定數(shù)值范圍以及計(jì)算的精度要求，為可調(diào)精度浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換過程中的指數(shù)和有效數(shù)的調(diào)整提供依據(jù)。