[發(fā)明專利]分形計(jì)算裝置、方法、集成電路及板卡

有效

• 申請(qǐng)?zhí)枺?/td>: 202010340444.5
• 申請(qǐng)日: 2020-04-26
• 公開（公告）號(hào): CN111860807B
• 公開（公告）日: 2023-05-02
• 發(fā)明（設(shè)計(jì)）人: 請(qǐng)求不公布姓名
• 申請(qǐng)（專利權(quán)）人: 中科寒武紀(jì)科技股份有限公司
• 主分類號(hào): G06N3/063
• 分類號(hào): G06N3/063;G06N3/08
• 代理公司: 北京維昊知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11804
• 代理人: 李波;孫新國

本公開涉及分形計(jì)算裝置、方法、集成電路及板卡，其中本公開的分形計(jì)算裝置包括在集成電路裝置中，該集成電路裝置包括通用互聯(lián)接口和其他處理裝置。計(jì)算裝置與其他處理裝置進(jìn)行交互，共同完成用戶指定的計(jì)算操作。集成電路裝置還可以包括存儲(chǔ)裝置，存儲(chǔ)裝置分別與計(jì)算裝置和其他處理裝置連接，用于計(jì)算裝置和其他處理裝置的數(shù)據(jù)存儲(chǔ)。

技術(shù)領(lǐng)域

本公開一般地涉及神經(jīng)網(wǎng)絡(luò)領(lǐng)域。更具體地，本公開涉及分形計(jì)算裝置、方法、集成電路及板卡。

背景技術(shù)

機(jī)器學(xué)習(xí)技術(shù)已經(jīng)大量應(yīng)用于新興商業(yè)，像是圖像識(shí)別、文本識(shí)別、語音識(shí)別、面部識(shí)別視頻分析、廣告推薦和游戲等領(lǐng)域。近年來，許多不同規(guī)模的專用機(jī)器學(xué)習(xí)計(jì)算裝置已部署在各種的嵌入式設(shè)備、服務(wù)器和數(shù)據(jù)中心中，人們的生活早已離不開機(jī)器學(xué)習(xí)技術(shù)。

大多數(shù)的機(jī)器學(xué)習(xí)計(jì)算裝置持續(xù)專注于優(yōu)化性能，光是2012年到2018年間，其功效增長了逾1200倍。雖然機(jī)器學(xué)習(xí)計(jì)算裝置的能效一直在快速增長，但是編程效率的發(fā)展有限，阻礙了機(jī)器學(xué)習(xí)技術(shù)的普及化。即使現(xiàn)有的計(jì)算裝置具有很高的峰值性能，但精簡的硬件控制管理和軟件堆棧對(duì)于機(jī)器學(xué)習(xí)計(jì)算裝置的實(shí)際性能仍然至關(guān)重要。不僅如此，現(xiàn)有的機(jī)器學(xué)習(xí)計(jì)算裝置的異構(gòu)性、并行性和分層特性也影響了編程效率。

因此，一種同構(gòu)、串行的分層結(jié)構(gòu)、具有相同的指令集的機(jī)器學(xué)習(xí)計(jì)算裝置是迫切需要的。

發(fā)明內(nèi)容

為了至少部分地解決背景技術(shù)中提到的技術(shù)問題，本公開的方案提供了一種分形計(jì)算裝置、方法、集成電路及板卡。

在一個(gè)方面中，本公開揭露一種根據(jù)指令對(duì)輸入數(shù)據(jù)執(zhí)行神經(jīng)網(wǎng)絡(luò)計(jì)算的方法，包括：將所述指令分為多個(gè)分形指令；將所述輸入數(shù)據(jù)拆分為多個(gè)分形數(shù)據(jù)，每個(gè)分形數(shù)據(jù)對(duì)應(yīng)一個(gè)分形指令；提供分形可重配指令集的多個(gè)本地指令；拆解每個(gè)分形指令為有序集合，所述有序集合由所述多個(gè)本地指令至少其中之一依序排列而成；對(duì)所述分形數(shù)據(jù)執(zhí)行相對(duì)應(yīng)分形指令的有序集合內(nèi)的本地指令以產(chǎn)生中間數(shù)據(jù)；以及歸約所述中間數(shù)據(jù)以完成所述神經(jīng)網(wǎng)絡(luò)計(jì)算。

在另一個(gè)方面中，本公開揭露一種根據(jù)指令執(zhí)行特定操作的分形計(jì)算裝置，包括多個(gè)中層計(jì)算單元及葉計(jì)算單元。每個(gè)中層計(jì)算單元包括：控制器，用以分解所述指令成多個(gè)分形指令，其中每個(gè)分形指令執(zhí)行所述特定操作；以及多個(gè)分形功能單元，每個(gè)分形功能單元分別發(fā)送所述多個(gè)分形指令其中之一至下一層的中層計(jì)算單元。葉計(jì)算單元包括：控制器，用以分解所述分形指令為本地指令；以及功能單元，用以執(zhí)行所述本地指令。

在另一個(gè)方面中，本公開揭露一種集成電路裝置，包括前述的分形計(jì)算裝置。亦揭露一種板卡，包括前述的集成電路裝置。

本公開是一系列能被相同指令集所驅(qū)動(dòng)的同構(gòu)(homogeneous)、串行(sequential)、多層(multi-layer)、層相似(layer-similar)的機(jī)器學(xué)習(xí)計(jì)算技術(shù)方案，可以實(shí)現(xiàn)簡單控制和高效率。

附圖說明

通過參考附圖閱讀下文的詳細(xì)描述，本公開示例性實(shí)施方式的上述以及其他目的、特征和優(yōu)點(diǎn)將變得易于理解。在附圖中，以示例性而非限制性的方式示出了本公開的若干實(shí)施方式，并且相同或?qū)?yīng)的標(biāo)號(hào)表示相同或?qū)?yīng)的部分其中：

圖1是示出一種分形計(jì)算裝置的框架示意圖；

圖2是示出本公開實(shí)施例的計(jì)算裝置的框圖；

圖3是示出本公開的分形計(jì)算裝置的示意圖；

圖4是示出本公開另一個(gè)實(shí)施例的流水線的示例圖；

圖5是示出根據(jù)本公開實(shí)施例的內(nèi)存組件的劃分的示意圖；

圖6是示出本公開另一實(shí)施例的流水線的示意圖；

圖7是示出本公開另一實(shí)施例的內(nèi)存組件的劃分的示意圖；

圖8是示出本公開另一實(shí)施例的靜態(tài)內(nèi)存段的示意圖；