[發(fā)明專利]用于智能處理器的指令分解方法、裝置及電子設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 202010689147.1
• 申請(qǐng)日: 2020-07-16
• 公開（公告）號(hào): CN111831333A
• 公開（公告）日: 2020-10-27
• 發(fā)明（設(shè)計(jì)）人: 支天;趙永威;李威;張士錦;杜子?xùn)|;郭崎
• 申請(qǐng)（專利權(quán)）人: 中國科學(xué)院計(jì)算技術(shù)研究所
• 主分類號(hào): G06F9/30
• 分類號(hào): G06F9/30;G06F9/38;G06F9/302;G06N20/00;G06N3/063
• 代理公司: 中科專利商標(biāo)代理有限責(zé)任公司 11021
• 代理人: 周天宇

本公開提供一種用于智能處理器的指令分解方法、裝置及電子設(shè)備，所述智能處理器根據(jù)分形指令進(jìn)行分形運(yùn)算，所述方法包括：確定對(duì)所述分形指令的操作數(shù)進(jìn)行分解的維度的分解優(yōu)先級(jí)；根據(jù)所述分解優(yōu)先級(jí)選擇當(dāng)前分解的維度；在所述當(dāng)前分解的維度上，對(duì)所述分形指令的操作數(shù)進(jìn)行串行分解。該指令分解方法，能夠在合理時(shí)間范圍內(nèi)找到最佳分解方案，依據(jù)最佳分解方案，串行分解器按照粒度循環(huán)輸出指令模板，通過累加，計(jì)算分解出的子指令中各操作數(shù)的地址，從而提高分形運(yùn)算的并行效率。

技術(shù)領(lǐng)域

本公開涉及計(jì)算機(jī)技術(shù)領(lǐng)域，尤其涉及一種用于智能處理器的指令分 解方法、裝置及電子設(shè)備。

背景技術(shù)

機(jī)器學(xué)習(xí)算法作為一種新興工具，在產(chǎn)業(yè)界得到越來越多的應(yīng)用，包 括圖像識(shí)別、語音識(shí)別、人臉識(shí)別、視頻分析、智能推薦、游戲競技等領(lǐng) 域。近年來，針對(duì)應(yīng)用越來越廣泛的機(jī)器學(xué)習(xí)負(fù)載，產(chǎn)業(yè)界出現(xiàn)了許多不 同規(guī)模的機(jī)器學(xué)習(xí)專用計(jì)算機(jī)。例如，在移動(dòng)端，一些智能手機(jī)采用了機(jī) 器學(xué)習(xí)處理器用于人臉識(shí)別，在云服務(wù)端，采用機(jī)器學(xué)習(xí)計(jì)算機(jī)進(jìn)行加速 等。

機(jī)器學(xué)習(xí)算法具有廣泛的前景，但應(yīng)用收到編程難題的制約。應(yīng)用場 景的廣泛不僅體現(xiàn)在具有多種應(yīng)用領(lǐng)域，同時(shí)還體現(xiàn)在應(yīng)用在不同規(guī)模的 硬件平臺(tái)上。如果要對(duì)每一種硬件上的每一種應(yīng)用分別編程，就會(huì)產(chǎn)生由 編程-規(guī)模相關(guān)性帶來的編程難題。因此，研發(fā)人員采用編程框架(例如 TensorFlow、PyTorch、MXNet)來作為橋接模型，將各種應(yīng)用和各種硬件 橋接起來改善該問題。

但是，編程框架僅僅緩解了用戶在編程時(shí)遇到的編程難題；對(duì)于硬件 廠商而言，挑戰(zhàn)則變得更嚴(yán)峻了。現(xiàn)在，硬件廠商不僅需要為每一個(gè)硬件 產(chǎn)品提供編程接口，還需要將每一個(gè)編程框架移植到每一個(gè)硬件產(chǎn)品上， 這產(chǎn)生了巨大的軟件開發(fā)成本。單獨(dú)TensorFlow一個(gè)框架，就具有超過一 千種算子，而在某一硬件上為一個(gè)算子做優(yōu)化就需要一名高級(jí)軟件工程師 工作幾個(gè)月的時(shí)間。

發(fā)明內(nèi)容

針對(duì)上述的缺陷，本公開的目的在于提供一種用于智能處理器的指令 分解方法、裝置及電子設(shè)備，用于至少部分解決上述技術(shù)問題。

根據(jù)本公開的第一方面，提供一種用于智能處理器的指令分解方法， 所述智能處理器根據(jù)分形指令進(jìn)行分形運(yùn)算，所述方法包括：確定對(duì)所述 分形指令的操作數(shù)進(jìn)行分解的維度的分解優(yōu)先級(jí)；根據(jù)所述分解優(yōu)先級(jí)選 擇當(dāng)前分解的維度；在所述當(dāng)前分解的維度上，對(duì)所述分形指令的操作數(shù) 進(jìn)行串行分解。

在一些實(shí)施例中，所述根據(jù)所述分解優(yōu)先級(jí)選擇當(dāng)前分解的維度，包 括：對(duì)于其中一維度，將該維度及優(yōu)先級(jí)低于該維度的維度設(shè)為原子粒度， 優(yōu)先級(jí)高于該維度的維度的粒度保持原有粒度，得到第一指令標(biāo)識(shí)符；根 據(jù)所述第一指令標(biāo)識(shí)符對(duì)所述操作數(shù)進(jìn)行分解；判斷分解后的操作數(shù)需要 的內(nèi)存容量是否小于所述智能處理器的內(nèi)存組件的容量大小；若是，則選 擇該維度作為所述當(dāng)前分解的維對(duì)所述操作數(shù)進(jìn)行分解，若否，選擇下一分解的維度進(jìn)行判定。

在一些實(shí)施例中，所述在所述當(dāng)前分解的維度上，對(duì)所述分形指令的 操作數(shù)進(jìn)行串行分解，包括：將優(yōu)先級(jí)低于所述當(dāng)前分解的維度的維度對(duì) 應(yīng)的分解粒度為原子粒度，優(yōu)先級(jí)高于該維度的維度對(duì)應(yīng)的粒度保持不 變，并確定所述當(dāng)前分解的維度滿足所述智能處理器的內(nèi)存組件容量限制 的最大粒度，得到第二指令標(biāo)識(shí)符；根據(jù)所述第二指令標(biāo)識(shí)符對(duì)所述分形 指令的操作數(shù)進(jìn)行串行分解。

在一些實(shí)施例中，所述確定所述當(dāng)前分解的維度滿足所述智能處理器 的內(nèi)存組件容量限制的最大粒度，包括：采用二分查找法確定所述最大粒 度。

在一些實(shí)施例中，所述指令分解方法還包括：計(jì)算串行分解得到的子 指令中各操作數(shù)的地址。