[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)計(jì)算裝置、數(shù)據(jù)處理方法及裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202010942302.6
• 申請(qǐng)日: 2020-09-09
• 公開(kāi)（公告）號(hào): CN112200299A
• 公開(kāi)（公告）日: 2021-01-08
• 發(fā)明（設(shè)計(jì)）人: 李曉峰;鄭成偉;林博
• 申請(qǐng)（專利權(quán)）人: 廈門星宸科技有限公司
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/063;G06N3/08
• 代理公司: 深圳紫藤知識(shí)產(chǎn)權(quán)代理有限公司 44570
• 代理人: 遠(yuǎn)明

本發(fā)明實(shí)施例提供一種神經(jīng)網(wǎng)絡(luò)計(jì)算裝置，其包含第一算子及第二算子。第一算子用以對(duì)輸入數(shù)據(jù)進(jìn)行特定計(jì)算以產(chǎn)生第一輸出數(shù)據(jù)。第二算子用以對(duì)該第一輸出數(shù)據(jù)進(jìn)行一函數(shù)計(jì)算，第二算子包含前端處理單元、查表電路、內(nèi)插電路、及后端處理單元。前端處理單元用以對(duì)第一輸出數(shù)據(jù)進(jìn)行第一數(shù)據(jù)處理以產(chǎn)生處理后數(shù)據(jù)。查表電路依據(jù)處理后數(shù)據(jù)查詢第一查找表以得到查表數(shù)據(jù)，第一查找表包含對(duì)應(yīng)該函數(shù)計(jì)算的多個(gè)第一自變量與多個(gè)第一因變量間的映像數(shù)據(jù)。內(nèi)插電路用以對(duì)查表數(shù)據(jù)進(jìn)行插補(bǔ)計(jì)算以得到插補(bǔ)后數(shù)據(jù)。后端處理單元用以對(duì)插補(bǔ)后數(shù)據(jù)進(jìn)行第二數(shù)據(jù)處理以產(chǎn)生第二輸出數(shù)據(jù)。本發(fā)明可高效并精確地實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)中非線性、計(jì)算復(fù)雜的函數(shù)計(jì)算。

技術(shù)領(lǐng)域

本發(fā)明屬于電子設(shè)備技術(shù)領(lǐng)域，尤其涉及一種神經(jīng)網(wǎng)絡(luò)計(jì)算裝置、應(yīng)用于神經(jīng)網(wǎng)絡(luò)計(jì)算裝置的數(shù)據(jù)處理方法及裝置。

背景技術(shù)

目前，深度神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)領(lǐng)域取得了巨大的成功，如圖像分類、目標(biāo)檢測(cè)、圖像分割等。然而，效果較好的深度神經(jīng)網(wǎng)絡(luò)往往有著數(shù)量較大的模型參數(shù)，不僅計(jì)算量大而且在實(shí)際部署中模型占據(jù)較大一部分空間，這在一些需要實(shí)時(shí)運(yùn)算的應(yīng)用場(chǎng)景無(wú)法正常應(yīng)用。

神經(jīng)網(wǎng)絡(luò)計(jì)算裝置在進(jìn)行數(shù)據(jù)處理時(shí)，經(jīng)常會(huì)涉及到非線性函數(shù)的數(shù)據(jù)計(jì)算。比如，常見(jiàn)的非線性函數(shù)有對(duì)數(shù)函數(shù)等。然而，相關(guān)技術(shù)中，由對(duì)數(shù)函數(shù)的圖像可知，在對(duì)數(shù)函數(shù)的一些定義域范圍內(nèi)，對(duì)數(shù)函數(shù)的圖像的斜率變化很大，這導(dǎo)致對(duì)數(shù)函數(shù)的計(jì)算量大且難以得到高精度的計(jì)算結(jié)果，現(xiàn)有技術(shù)無(wú)法符合需要實(shí)時(shí)運(yùn)算的應(yīng)用場(chǎng)景的需求。

發(fā)明內(nèi)容

本發(fā)明實(shí)施例提供一種神經(jīng)網(wǎng)絡(luò)計(jì)算裝置、應(yīng)用于神經(jīng)網(wǎng)絡(luò)計(jì)算裝置的數(shù)據(jù)處理方法及裝置，可高效并精確地實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)中非線性、計(jì)算復(fù)雜的函數(shù)計(jì)算。

第一方面，本發(fā)明實(shí)施例提供一種神經(jīng)網(wǎng)絡(luò)計(jì)算裝置，其包含第一算子及第二算子。第一算子用以對(duì)輸入數(shù)據(jù)進(jìn)行特定計(jì)算以產(chǎn)生第一輸出數(shù)據(jù)。第二算子用以對(duì)該第一輸出數(shù)據(jù)進(jìn)行一函數(shù)計(jì)算，第二算子包含前端處理單元、查表電路、內(nèi)插電路、及后端處理單元。前端處理單元用以對(duì)第一輸出數(shù)據(jù)進(jìn)行第一數(shù)據(jù)處理以產(chǎn)生處理后數(shù)據(jù)。查表電路依據(jù)處理后數(shù)據(jù)查詢第一查找表以得到查表數(shù)據(jù)，第一查找表包含對(duì)應(yīng)該函數(shù)計(jì)算的多個(gè)第一自變量與多個(gè)第一因變量間的映像數(shù)據(jù)。內(nèi)插電路用以對(duì)查表數(shù)據(jù)進(jìn)行插補(bǔ)計(jì)算以得到插補(bǔ)后數(shù)據(jù)。后端處理單元用以對(duì)插補(bǔ)后數(shù)據(jù)進(jìn)行第二數(shù)據(jù)處理以產(chǎn)生第二輸出數(shù)據(jù)。

第二方面，本發(fā)明實(shí)施例提供一種數(shù)據(jù)處理方法，其應(yīng)用于一神經(jīng)網(wǎng)絡(luò)計(jì)算裝置之一算子，該算子用以進(jìn)行一函數(shù)計(jì)算。該數(shù)據(jù)處理方法包括：對(duì)輸入數(shù)據(jù)進(jìn)行第一數(shù)據(jù)處理以產(chǎn)生處理后數(shù)據(jù)；依據(jù)處理后數(shù)據(jù)查詢第一查找表以得到查表數(shù)據(jù)；對(duì)查表數(shù)據(jù)進(jìn)行插補(bǔ)計(jì)算以得到插補(bǔ)后數(shù)據(jù)；及對(duì)插補(bǔ)后數(shù)據(jù)進(jìn)行第二數(shù)據(jù)處理以產(chǎn)生輸出數(shù)據(jù)。前述第一查找表包含對(duì)應(yīng)該函數(shù)計(jì)算的多個(gè)第一自變量與多個(gè)第一因變量間的映像數(shù)據(jù)。

第三方面，本發(fā)明實(shí)施例提供一種數(shù)據(jù)處理裝置，應(yīng)用于神經(jīng)網(wǎng)絡(luò)計(jì)算裝置之一算子，該算子用以進(jìn)行一函數(shù)計(jì)算。該數(shù)據(jù)處理方法裝置包含前端處理單元、查表電路、內(nèi)插電路、及后端處理單元。前端處理單元用以對(duì)輸入數(shù)據(jù)進(jìn)行第一數(shù)據(jù)處理以產(chǎn)生處理后數(shù)據(jù)。查表電路依據(jù)處理后數(shù)據(jù)查詢第一查找表以得到查表數(shù)據(jù)，第一查找表包含對(duì)應(yīng)該函數(shù)計(jì)算的多個(gè)第一自變量與多個(gè)第一因變量間的映像數(shù)據(jù)。內(nèi)插電路用以對(duì)查表數(shù)據(jù)進(jìn)行插補(bǔ)計(jì)算以得到插補(bǔ)后數(shù)據(jù)。后端處理單元用以對(duì)插補(bǔ)后數(shù)據(jù)進(jìn)行第二數(shù)據(jù)處理以產(chǎn)生輸出數(shù)據(jù)。

本發(fā)明實(shí)施例中，神經(jīng)網(wǎng)絡(luò)計(jì)算裝置中系利用具有查找表功能的數(shù)據(jù)處理裝置來(lái)實(shí)作其內(nèi)的算子，以高效并精確地實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)中非線性、計(jì)算比較復(fù)雜的函數(shù)。

附圖說(shuō)明

下面結(jié)合附圖，通過(guò)對(duì)本發(fā)明的具體實(shí)施方式詳細(xì)描述，將使本發(fā)明的技術(shù)方案及其有益效果顯而易見(jiàn)。

圖1是本發(fā)明實(shí)施例提的供神經(jīng)網(wǎng)絡(luò)計(jì)算裝置方塊示意圖。

圖2是本發(fā)明實(shí)施例提供的數(shù)據(jù)處理裝置的方塊示意圖。