[發明專利]指令管理方法及裝置、指令管理系統、運算核心有效

申請號：	201210107228.1	申請日：	2012-04-12
公開（公告）號：	CN103377085B	公開（公告）日：	2017-04-19
發明（設計）人：	高劍剛;李宏亮;鄭方;許勇;盧宏生;任秀江;高紅光	申請（專利權）人：	無錫江南計算技術研究所
主分類號：	G06F9/50	分類號：	G06F9/50
代理公司：	北京集佳知識產權代理有限公司11227	代理人：	駱蘇華
地址：	214083 江蘇***	國省代碼：	江蘇;32
權利要求書：	查看更多	說明書：	查看更多
摘要：
搜索關鍵詞：	指令管理方法裝置系統運算核心
鉆瓜網技術展會專利詞庫專利權人專利榜在售專利公布日期熱門專利

【說明書】：

技術領域

本發明涉及指令管理技術領域，尤其是一種指令管理方法及裝置、指令管理系統和一種運算核心。

背景技術

在通用處理器中，通常采用分級的指令存儲結構，也就是，指令存儲在不同級別的存儲介質中。運算核心(處理器的組成器件，每個運算核心可以看成是一個小的處理器)在運行時從本地存儲器中獲得指令，由于運算核心本地的存儲器容量有限，容易產生取指失敗的情況，也就是說，若運算核心中未存儲將要運行的指令，運算核心需要從上一級指令存儲器獲得指令后才能繼續運行，取指失敗也稱為指令脫靶。在采用分級的指令存儲結構情況下，從上一級指令存儲器中獲得指令會耗費大量的時間，若頻繁的發生取指失敗，會增加指令傳輸的耗時，降低運算核心的工作效率。

多核、眾核處理器中，單硅片上集成多個運算核心。由于運算核心數量多，每個運算核心內的指令存儲器容量小，對共享的上一級指令存儲器的取指競爭沖突會增多，運算核心間的取指競爭問題逐漸凸顯出來。尤其當單硅片上的運算核心數增加到幾十、幾百個時，傳統的取指處理方式使運算核心取指延遲的情況明顯增加。同時，取指競爭還會導致通信網絡擁塞，這會成為制約運算核心的性能和適應面的瓶頸。

目前處理器中比較常用的指令處理技術包括SIMD(Single Instruction Multiple Data，單指令多數據流)技術和SPMD(Single Programe Multiple Data，單程序多數據流)技術。

多核處理器中采用的SIMD、SPMD等技術統一指令需求，這在一定程度上能夠降低指令需求。

在多核處理器中采用SIMD技術，主要是指多個運算核心(或運算核心內的多條流水線)共享同一個指令發射站臺，同步運行相同的指令，但運算核心處理的數據各不相同。

在多核處理器中采用SPMD技術，主要是指每個運算核心執行相同的程序代碼，每個運算核心運行的程序相同，但處理的數據各不相同。

SIMD技術的優勢是要求每個運算核心共享指令發射單元，每條指令都同步執行，這防止了取指競爭，能夠減輕多核心聚集的取指操作對通信網絡的擁塞。

SPMD技術的優勢是放寬了對運算核心間的同步要求，將各運算核心間的同步粒度提高到獨立的程序級，在程序范圍內各運算核心能夠自主運行。

以上這些技術從減少取指操作源頭、減少程序代碼種類的角度，都能在一定程度上降低取指沖突和減小取指延遲。

但是SIMD技術要求每個運算核心的每條指令都要同步執行，運算核心的資源通常難以得到充分利用，無法發揮所有運算核心的計算能力，限制了該技術的適用范圍。

多核、眾核處理器中，隨著運算核心數量增長，運算核心內的存儲器容量小，如果SPMD程序量大于運算核心內的存儲器容量，取指脫靶還是會導致頻繁的取指操作，引起取指操作沖突加劇，通信網絡擁塞嚴重，運算核心的取指等待時間較長，對發揮運算核心的計算效率有較大影響。因此，在多核、眾核處理器中，運算核心內的存儲器容量限制了SPMD技術的適用范圍。

公開號為CN 1466716A的中國專利中的方法只可以為一個處理器提供指令預取服務，不適于多核、眾核處理器的處理器結構。另一方面，該專利中用于預取指令的方法，對每個計算核心需要額外的輔助處理器，用于執行程序的簡化版本，硬件開銷較大。

如何有效減少運算核心的指令脫靶和等待延遲，提高運算核心的計算效率成為目前亟待解決的問題之一。

發明內容

本發明解決的問題是如何有效減少運算核心的指令脫靶和等待延遲，提高運算核心的計算效率。

為解決上述問題，本發明提供了一種指令管理方法，包括：

按照程序的執行順序將所述程序劃分為指令塊；

按照執行順序發送指令塊至至少一個運算核心。

為解決上述問題，本發明還提供了一種指令管理裝置，包括：

反饋單元，用以發出指令塊發送信號，所述指令塊按照程序的執行順序將所述程序劃分得到。

為解決上述問題，本發明還提供了一種運算核心，包括：

指令存儲單元，用以接收并儲存指令塊的指令，所述指令塊為預送的；

運算單元，用以運行所述指令存儲單元儲存的指令。