[發(fā)明專(zhuān)利]異構(gòu)計(jì)算環(huán)境的設(shè)備和系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 201810909419.7
• 申請(qǐng)日: 2018-08-10
• 公開(kāi)（公告）號(hào): CN109508316B
• 公開(kāi)（公告）日: 2023-08-18
• 發(fā)明（設(shè)計(jì)）人: 克里希納·T·馬拉迪;鄭宏忠
• 申請(qǐng)（專(zhuān)利權(quán)）人: 三星電子株式會(huì)社
• 主分類(lèi)號(hào): G06F15/78
• 分類(lèi)號(hào): G06F15/78
• 代理公司: 華進(jìn)聯(lián)合專(zhuān)利商標(biāo)代理有限公司 44224
• 代理人: 劉培培;黃隸凡

本發(fā)明提供一種設(shè)備，所述設(shè)備可包含可至少部分地由任務(wù)調(diào)度程序控制的異構(gòu)計(jì)算環(huán)境，其中異構(gòu)計(jì)算環(huán)境可包含：處理單元，具有配置成執(zhí)行指令的固定邏輯電路；可重編程處理單元，具有配置成執(zhí)行指令的可重編程邏輯電路，所述指令包含用以控制存儲(chǔ)器內(nèi)處理功能的指令；以及高帶寬存儲(chǔ)器裸片的堆疊，其中每一堆疊可配置成存儲(chǔ)數(shù)據(jù)并提供由可重編程處理單元可控制的存儲(chǔ)器內(nèi)處理功能，從而使得可重編程處理單元至少部分地與高帶寬存儲(chǔ)器裸片一起堆疊。任務(wù)調(diào)度程序可配置成在處理單元與可重編程處理單元之間調(diào)度計(jì)算任務(wù)。本發(fā)明也提供一種異構(gòu)計(jì)算環(huán)境的系統(tǒng)。

相關(guān)申請(qǐng)案的交叉引用

本申請(qǐng)請(qǐng)求2017年9月14日提交的標(biāo)題為“高效學(xué)習(xí)系統(tǒng)的異構(gòu)加速器(AHETEROGENEOUS?ACCELERATOR?FOR?HIGHLY?EFFICIENT?LEARNING?SYSTEMS)”的臨時(shí)專(zhuān)利申請(qǐng)第62/558,745號(hào)的優(yōu)先權(quán)。此先前提交的申請(qǐng)的主題特此以引用的方式并入。

技術(shù)領(lǐng)域

本說(shuō)明書(shū)大體上涉及電路。確切地說(shuō)，本公開(kāi)涉及一種用于高效學(xué)習(xí)系統(tǒng)的異構(gòu)加速器的系統(tǒng)和方法。

背景技術(shù)

如學(xué)習(xí)系統(tǒng)(例如深度神經(jīng)網(wǎng)絡(luò))的新興應(yīng)用通常需要大量計(jì)算和存儲(chǔ)能力以在不同數(shù)據(jù)集上訓(xùn)練并以高精度學(xué)習(xí)。此外，隨著如高性能計(jì)算、圖形操作等應(yīng)用變?yōu)閿?shù)據(jù)密集型及計(jì)算密集型，能量效率和低延時(shí)變得至關(guān)重要。一種稱(chēng)為“存儲(chǔ)器內(nèi)處理”的技術(shù)具有通過(guò)在較低功率技術(shù)處理中且還更接近于數(shù)據(jù)駐留處在存儲(chǔ)器(例如動(dòng)態(tài)隨機(jī)存儲(chǔ)器(dynamic?random?access?memory；DRAM)等)邏輯裸片上調(diào)度復(fù)雜操作以提供額外計(jì)算能力從而解決這些挑戰(zhàn)的能力。

高帶寬存儲(chǔ)器(High?Bandwidth?Memory；HBM)是用于3D堆疊存儲(chǔ)器(例如DRAM)的高性能隨機(jī)存取存儲(chǔ)器(random?access?memory；RAM)接口。其通常與高性能圖形加速器以及存取大型數(shù)據(jù)集的網(wǎng)絡(luò)裝置結(jié)合使用。相比于其它DRAM技術(shù)(例如雙數(shù)據(jù)速率第四代同步動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器(double?data?rate?fourth-generation?synchronous?dynamicrandom-access?memory；DDR4)、雙數(shù)據(jù)速率五型同步圖形隨機(jī)存取存儲(chǔ)器(double?datarate?type?five?synchronous?graphics?random-access?memory；GDDR5)等)，HBM通常實(shí)現(xiàn)更高帶寬，同時(shí)在基本上更小形狀參數(shù)中使用更少功率。這通常可通過(guò)將一數(shù)量(例如八個(gè))的存儲(chǔ)器裸片堆疊在一起來(lái)實(shí)現(xiàn)。此堆疊常常還包含具有存儲(chǔ)器控制器的任選基礎(chǔ)裸片。所述裸片可通過(guò)硅穿孔(through-silicon?vias；TSV)和微凸塊而互連。

發(fā)明內(nèi)容

根據(jù)一個(gè)總的方面，實(shí)例實(shí)施例提供一種設(shè)備，所述設(shè)備可包含可至少部分地由任務(wù)調(diào)度程序來(lái)控制的異構(gòu)計(jì)算環(huán)境，其中所述異構(gòu)計(jì)算環(huán)境可包含：處理單元，具有配置成執(zhí)行指令的固定邏輯電路；可重編程處理單元，具有配置成執(zhí)行指令的可重編程邏輯電路，所述指令包含用以控制存儲(chǔ)器內(nèi)處理功能的指令；以及高帶寬存儲(chǔ)器裸片的堆疊，其中每一堆疊可配置成存儲(chǔ)數(shù)據(jù)并提供可由可重編程處理單元控制的存儲(chǔ)器內(nèi)處理功能，從而使得可重編程處理單元至少部分地與高帶寬存儲(chǔ)器裸片一起堆疊。任務(wù)調(diào)度程序可配置成在處理單元與可重編程處理單元之間調(diào)度計(jì)算任務(wù)。

根據(jù)另一總的方面，另一實(shí)例實(shí)施例提供一種設(shè)備，所述設(shè)備可包含可至少部分地由中央處理單元控制的異構(gòu)計(jì)算環(huán)境，其中所述異構(gòu)計(jì)算環(huán)境可包含中央處理單元、固定處理單元、可重編程處理單元、高帶寬存儲(chǔ)器裸片的堆疊以及中央存儲(chǔ)器。中央處理單元可配置成在固定處理單元與可重編程處理單元之間分配計(jì)算任務(wù)。固定處理單元可具有配置成執(zhí)行指令的固定邏輯電路。可重編程處理單元可具有配置成執(zhí)行指令的可重編程邏輯電路，所述指令包含用以控制存儲(chǔ)器內(nèi)處理功能的指令。高帶寬存儲(chǔ)器裸片的每一堆疊可配置成存儲(chǔ)數(shù)據(jù)并提供可由可重編程處理單元控制的存儲(chǔ)器內(nèi)處理功能，從而使得可重編程處理單元至少部分地與高帶寬存儲(chǔ)器裸片一起堆疊。中央存儲(chǔ)器可包含為固定處理單元保留的緩沖器部分，以及為可重編程處理單元保留的緩沖器部分。