[發(fā)明專利]點(diǎn)積運(yùn)算實(shí)現(xiàn)方法、裝置、電子設(shè)備及存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 202010984688.7
• 申請日: 2020-09-18
• 公開（公告）號: CN112148249B
• 公開（公告）日: 2023-08-18
• 發(fā)明（設(shè)計(jì)）人: 鄧廣來;田超
• 申請（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號: G06F7/485
• 分類號: G06F7/485;G06F7/487;G06N3/0464;G06N3/063
• 代理公司: 北京鴻德海業(yè)知識產(chǎn)權(quán)代理有限公司 11412
• 代理人: 谷春靜

本申請公開了點(diǎn)積運(yùn)算實(shí)現(xiàn)方法、裝置、電子設(shè)備及存儲介質(zhì)，涉及深度學(xué)習(xí)及人工智能領(lǐng)域，其中的方法可包括：獲取N組操作數(shù)，N為大于一的正整數(shù)，N組操作數(shù)均為第一數(shù)據(jù)輸入格式或均為第二數(shù)據(jù)輸入格式，第一數(shù)據(jù)輸入格式包括：半精度的浮點(diǎn)數(shù)據(jù)和字符類型數(shù)據(jù)，第二數(shù)據(jù)輸入格式包括：有符號的定點(diǎn)數(shù)據(jù)和字符類型數(shù)據(jù)；針對任一操作數(shù)，分別確定出所述操作數(shù)對應(yīng)的輸入數(shù)據(jù)，將輸入數(shù)據(jù)輸入對應(yīng)的乘法器，得到輸出結(jié)果，其中，不同的操作數(shù)分別對應(yīng)于不同的乘法器；利用加法器計(jì)算各乘法器的輸出結(jié)果之和，得到N點(diǎn)積運(yùn)算的運(yùn)算結(jié)果。應(yīng)用本申請所述方案，可節(jié)省硬件成本和功耗，并可確保較高的運(yùn)算精度等。

技術(shù)領(lǐng)域

本申請涉及計(jì)算機(jī)應(yīng)用技術(shù)，特別涉及深度學(xué)習(xí)及人工智能領(lǐng)域的點(diǎn)積運(yùn)算實(shí)現(xiàn)方法、裝置、電子設(shè)備及存儲介質(zhì)。

背景技術(shù)

在目前流行的深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)中，存在著大量的卷積操作。為了追求運(yùn)算精度，芯片中通常采用浮點(diǎn)運(yùn)算方式，但缺點(diǎn)是增大了硬件成本和功耗等，為了節(jié)省硬件成本和功耗，可采用定點(diǎn)運(yùn)算方式，但這樣會(huì)帶來運(yùn)算精度的損失，網(wǎng)絡(luò)性能會(huì)大打折扣等。例如，有時(shí)希望能夠以較小的代價(jià)滿足一些語音相關(guān)的應(yīng)用中，對運(yùn)算的精度和效率的較高需求。

發(fā)明內(nèi)容

本申請?zhí)峁┝它c(diǎn)積運(yùn)算實(shí)現(xiàn)方法、裝置、電子設(shè)備及存儲介質(zhì)。

一種點(diǎn)積運(yùn)算實(shí)現(xiàn)方法，包括：

獲取N組操作數(shù)，N為大于一的正整數(shù)，所述N組操作數(shù)均為第一數(shù)據(jù)輸入格式或均為第二數(shù)據(jù)輸入格式，所述第一數(shù)據(jù)輸入格式包括：半精度的浮點(diǎn)數(shù)據(jù)和字符類型數(shù)據(jù)，所述第二數(shù)據(jù)輸入格式包括：有符號的定點(diǎn)數(shù)據(jù)和所述字符類型數(shù)據(jù)；

針對任一操作數(shù)，分別確定出所述操作數(shù)對應(yīng)的輸入數(shù)據(jù)，將所述輸入數(shù)據(jù)輸入對應(yīng)的乘法器，得到輸出結(jié)果，其中，不同的操作數(shù)分別對應(yīng)于不同的乘法器；

利用加法器計(jì)算各乘法器的輸出結(jié)果之和，得到N點(diǎn)積運(yùn)算的運(yùn)算結(jié)果。

一種點(diǎn)積運(yùn)算實(shí)現(xiàn)裝置，包括：獲取模塊及運(yùn)算模塊；

所述獲取模塊，用于獲取N組操作數(shù)，N為大于一的正整數(shù)，所述N組操作數(shù)均為第一數(shù)據(jù)輸入格式或均為第二數(shù)據(jù)輸入格式，所述第一數(shù)據(jù)輸入格式包括：半精度的浮點(diǎn)數(shù)據(jù)和字符類型數(shù)據(jù)，所述第二數(shù)據(jù)輸入格式包括：有符號的定點(diǎn)數(shù)據(jù)和所述字符類型數(shù)據(jù)；

所述運(yùn)算模塊，用于針對任一操作數(shù)，分別確定出所述操作數(shù)對應(yīng)的輸入數(shù)據(jù)，將所述輸入數(shù)據(jù)輸入對應(yīng)的乘法器，得到輸出結(jié)果，其中，不同的操作數(shù)分別對應(yīng)于不同的乘法器，利用加法器計(jì)算各乘法器的輸出結(jié)果之和，得到N點(diǎn)積運(yùn)算的運(yùn)算結(jié)果。

一種電子設(shè)備，包括：

至少一個(gè)處理器；以及

與所述至少一個(gè)處理器通信連接的存儲器；其中，

所述存儲器存儲有可被所述至少一個(gè)處理器執(zhí)行的指令，所述指令被所述至少一個(gè)處理器執(zhí)行，以使所述至少一個(gè)處理器能夠執(zhí)行如以上所述的方法。

一種存儲有計(jì)算機(jī)指令的非瞬時(shí)計(jì)算機(jī)可讀存儲介質(zhì)，所述計(jì)算機(jī)指令用于使所述計(jì)算機(jī)執(zhí)行如以上所述的方法。

一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，所述計(jì)算機(jī)程序在被處理器執(zhí)行時(shí)實(shí)現(xiàn)如以上所述的方法。

上述申請中的一個(gè)實(shí)施例具有如下優(yōu)點(diǎn)或有益效果：所述N點(diǎn)積運(yùn)算同時(shí)支持兩種不同的數(shù)據(jù)輸入格式，即包括半精度的浮點(diǎn)數(shù)據(jù)和字符類型數(shù)據(jù)的第一數(shù)據(jù)輸入格式以及包括有符號的定點(diǎn)數(shù)據(jù)和字符類型數(shù)據(jù)的第二數(shù)據(jù)輸入格式，從而可根據(jù)實(shí)際需要靈活輸入不同數(shù)據(jù)輸入格式的操作數(shù)來實(shí)現(xiàn)點(diǎn)積運(yùn)算，兼顧了浮點(diǎn)運(yùn)算和定點(diǎn)運(yùn)算的優(yōu)勢，由于無需一直進(jìn)行浮點(diǎn)運(yùn)算，從而節(jié)省了硬件成本和功耗，并且通過浮點(diǎn)運(yùn)算確保了運(yùn)算精度等。