[發(fā)明專利]利用硬件計(jì)算效率和調(diào)整因子優(yōu)化神經(jīng)網(wǎng)絡(luò)

在審

• 申請(qǐng)?zhí)枺?/td>: 201980068960.2
• 申請(qǐng)日: 2019-10-18
• 公開（公告）號(hào): CN112889024A
• 公開（公告）日: 2021-06-01
• 發(fā)明（設(shè)計(jì)）人: 杰弗里·霍伊爾·約翰遜
• 申請(qǐng)（專利權(quán)）人: 臉譜公司
• 主分類號(hào): G06F7/483
• 分類號(hào): G06F7/483;G06F7/509
• 代理公司: 北京安信方達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 11262
• 代理人: 俞立文;楊明釗

1.一種系統(tǒng)，包括：

處理器，所述處理器被配置為接收對(duì)要執(zhí)行的運(yùn)算的請(qǐng)求，確定所述運(yùn)算與機(jī)器學(xué)習(xí)算法相關(guān)聯(lián)，并且作為響應(yīng)，將所述運(yùn)算路由到被配置為執(zhí)行所述運(yùn)算的計(jì)算電路，其中所述計(jì)算電路包括：

指數(shù)調(diào)整計(jì)算模塊，所述指數(shù)調(diào)整計(jì)算模塊被配置為將調(diào)整因子應(yīng)用于第一線性域數(shù)以生成調(diào)整后的第一線性域數(shù)，以及

求和計(jì)算模塊，所述求和計(jì)算模塊被配置為確定第一調(diào)整后的線性域數(shù)和第二線性域數(shù)的總和作為第三線性域，

其中所述指數(shù)調(diào)整計(jì)算模塊還被配置為將附加調(diào)整因子應(yīng)用于所述第三線性域數(shù)，以生成調(diào)整后的第三線性域數(shù)。

2.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述第一線性域數(shù)是浮點(diǎn)數(shù)。

3.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述調(diào)整因子和/或所述附加調(diào)整具有負(fù)值或正值。

4.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中，所述求和計(jì)算模塊是Kulisch累加器。

5.根據(jù)權(quán)利要求2所述的系統(tǒng)，所述運(yùn)算還包括在求和之前將所述調(diào)整后的第一線性域數(shù)轉(zhuǎn)換成定點(diǎn)數(shù)。

6.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述求和計(jì)算模塊是浮點(diǎn)累加器。

7.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述第二線性域數(shù)與所述運(yùn)算相關(guān)聯(lián)。

8.一種計(jì)算機(jī)實(shí)現(xiàn)的方法，包括：

接收對(duì)要執(zhí)行的運(yùn)算的請(qǐng)求；

確定所述運(yùn)算與機(jī)器學(xué)習(xí)算法相關(guān)聯(lián)，并且作為響應(yīng)，將所述運(yùn)算路由到計(jì)算電路；和

通過以下操作，在所述計(jì)算電路處執(zhí)行計(jì)算機(jī)實(shí)現(xiàn)的運(yùn)算：

將調(diào)整因子應(yīng)用于第一線性域數(shù)，以生成調(diào)整后的第一線性域數(shù)；

確定所述調(diào)整后的第一線性域數(shù)和第二線性域數(shù)的總和作為第三線性域數(shù)；

將附加調(diào)整因子應(yīng)用于所述第三線性域數(shù)，以生成調(diào)整后的第三線性域數(shù)；和

輸出所述調(diào)整后的第三線性域數(shù)。

9.根據(jù)權(quán)利要求8所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述第一線性域數(shù)是浮點(diǎn)數(shù)。

10.根據(jù)權(quán)利要求8所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述調(diào)整因子和/或所述附加調(diào)整具有負(fù)值或正值。

11.根據(jù)權(quán)利要求8所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中，所述第一調(diào)整后的線性域數(shù)和所述第二線性域數(shù)的總和是使用Kulisch累加器來確定的。

12.根據(jù)權(quán)利要求9所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，還包括在求和之前將所述調(diào)整后的第一線性域數(shù)轉(zhuǎn)換成定點(diǎn)數(shù)。

13.根據(jù)權(quán)利要求8所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中所述第二線性域數(shù)與所述運(yùn)算相關(guān)聯(lián)。

14.根據(jù)權(quán)利要求8所述的計(jì)算機(jī)實(shí)現(xiàn)的方法，其中使用浮點(diǎn)累加器來確定所述第一調(diào)整后的線性域數(shù)和所述第二線性域數(shù)的總和。

15.一種存儲(chǔ)軟件的非暫時(shí)性計(jì)算機(jī)可讀介質(zhì)，所述軟件包括由一個(gè)或更多個(gè)計(jì)算機(jī)可執(zhí)行的指令，所述指令在執(zhí)行時(shí)使得所述一個(gè)或更多個(gè)計(jì)算機(jī)執(zhí)行運(yùn)算，所述運(yùn)算包括：

將調(diào)整因子應(yīng)用于第一線性域數(shù)，以生成調(diào)整后的第一線性域數(shù)；

將所述調(diào)整后的第一線性域數(shù)和第二線性域數(shù)的總和確定為第三線性域數(shù)；

將附加調(diào)整因子應(yīng)用于所述第三線性域數(shù)，以生成調(diào)整后的第三線性域數(shù)；和

輸出所述調(diào)整后的第三線性域數(shù)。

16.根據(jù)權(quán)利要求15所述的計(jì)算機(jī)可讀介質(zhì)，其中所述第一線性域數(shù)是浮點(diǎn)數(shù)。

17.根據(jù)權(quán)利要求15所述的計(jì)算機(jī)可讀介質(zhì)，其中所述調(diào)整因子和/或所述附加調(diào)整具有負(fù)值或正值。