[發(fā)明專利]片上多線程計算機(jī)系統(tǒng)中線程性能預(yù)測和控制方法

無效

• 申請?zhí)枺?/td>: 201210100629.4
• 申請日: 2012-04-06
• 公開（公告）號: CN102708007A
• 公開（公告）日: 2012-10-03
• 發(fā)明（設(shè)計）人: 楊華;石祥斌;潘琢金
• 申請（專利權(quán)）人: 沈陽航空航天大學(xué)
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 沈陽維特專利商標(biāo)事務(wù)所(普通合伙) 21229
• 代理人: 孫麗珠

技術(shù)領(lǐng)域

本發(fā)明涉及一種計算機(jī)資源分配和線程性能的預(yù)測和控制方法，尤其涉及一種片上多線程(CMT)計算機(jī)系統(tǒng)中線程性能預(yù)測和控制方法。該發(fā)明屬于計算機(jī)系統(tǒng)設(shè)計領(lǐng)域，用于對計算機(jī)系統(tǒng)、特別是片上多線程計算機(jī)系統(tǒng)結(jié)構(gòu)進(jìn)行性能設(shè)計、預(yù)測、控制，具體應(yīng)用領(lǐng)域是片上多線程體系結(jié)構(gòu)上的處理器內(nèi)部的線程調(diào)度、資源分配、操作系統(tǒng)任務(wù)調(diào)度等功能的設(shè)計和實(shí)現(xiàn)。

背景技術(shù)

現(xiàn)代計算機(jī)系統(tǒng)已逐步進(jìn)入片上多線程(CMT)系統(tǒng)結(jié)構(gòu)時期，允許多個線程在處理器內(nèi)部同時運(yùn)行，通過挖掘和利用線程級并行(TLP)，克服指令級并行(ILP)的不足，提高計算機(jī)系統(tǒng)的整體處理能力和資源利用率。CMT是硬件級多線程并行，其主要架構(gòu)形式包括同時多線程(SMT)，片上多處理器(CMP)，或二者的混合體。與傳統(tǒng)的操作系統(tǒng)(OS)通過時間片方式調(diào)度實(shí)現(xiàn)的多任務(wù)并發(fā)(concurrency)機(jī)制不同，CMT系統(tǒng)中是硬件上、時間上的物理并行，多個線程同時在片運(yùn)行，競爭并共享各種片上資源和整個計算機(jī)系統(tǒng)的資源，使得系統(tǒng)的吞吐率(throughput)和資源利用率得到的顯著提升。然而，多個線程對處理器片上資源的競爭存在很大的盲目性。如果置之不理或者處理不當(dāng)，則極有可能引起線程間的互相干擾和對資源惡性的競爭，形成一系列不良后果，例如：線程的意外饑餓和停滯、資源濫用、優(yōu)先級顛倒、實(shí)時性被破壞、交互性被破壞、服務(wù)質(zhì)量(QoS)降低等，這些問題嚴(yán)重增加了計算機(jī)系統(tǒng)的不可預(yù)測性和不可控制性，整體性能也隨之降低。通過分析找出上述問題的原因，主要以下有兩方面：

軟件方面：現(xiàn)有操作系統(tǒng)根據(jù)線程的任務(wù)級別、運(yùn)行要求、調(diào)度策略等選擇一個或多個線程調(diào)度到某個處理器上運(yùn)行或者進(jìn)行線程切換。其調(diào)度功能是工作在通過控制處理器分配時間來控制線程運(yùn)行時間這一層面，將線程進(jìn)入處理器的時間等同于線程運(yùn)行時間。該做法對傳統(tǒng)單核、單線程系統(tǒng)完全沒有問題，而對CMT系統(tǒng)卻容易出現(xiàn)偏差。操作系統(tǒng)對處理器片上資源難以監(jiān)控和管理，對多線程的片內(nèi)運(yùn)行難以監(jiān)控和管理。資源的競爭和共享使得多線程的執(zhí)行進(jìn)度并非均勻一致，不可避免地出現(xiàn)差異，即線程運(yùn)行時間不能等同其在片時間。在這種情況下，為了滿足指定線程的性能要求，從操作系統(tǒng)的角度只能通過調(diào)度分配其更多的在片時間、甚至讓其一定程度地獨(dú)占在片資源，這必然犧牲了其它線程的運(yùn)行進(jìn)度，是以資源的不公平分配和整體處理能力的下降為代價。此外，現(xiàn)有調(diào)度方法中還有試圖通過改善線程搭配的合理性來提高對線程性能的預(yù)測和控制，然而這需要對各類線程運(yùn)行特性的預(yù)知或者在線學(xué)習(xí)，以及對線程的類型、數(shù)量、運(yùn)行特性平穩(wěn)等方面要求，這很大程度上制約了其實(shí)用性和適應(yīng)性。

硬件方面：CMT是硬件級線程并行，與傳統(tǒng)并發(fā)方式的OS線程調(diào)度相區(qū)別，CMT更多依靠片上硬件邏輯實(shí)現(xiàn)資源分配和線程調(diào)度策略，為軟件(OS和應(yīng)用程序)同時提供多個線程上下文(context)，其內(nèi)部細(xì)節(jié)通常對軟件是透明的，因此CMT的片上調(diào)度和控制邏輯對系統(tǒng)整體性能的發(fā)揮至關(guān)重要。然而受限于以下幾個因素，設(shè)計和實(shí)現(xiàn)科學(xué)、合理、高效率、適應(yīng)性強(qiáng)的硬件級資源分配和線程調(diào)度策略并非易事：(1)不同線程的運(yùn)行特性和資源依賴特性差別很大，即使是一個線程在不同運(yùn)行階段也會出現(xiàn)不斷變化，這種差異和變化使得對線程性能的預(yù)測類似于未卜先知，非常困難。(2)線程運(yùn)行需要各種在片資源(可粗略分為帶寬類和存儲類)，不同資源對線程性能的影響機(jī)理和程度不同，且存在一定的耦合作用。因此線程性能對資源的依賴關(guān)系實(shí)質(zhì)上是對一個多輸入、多約束條件下的非線性問題進(jìn)行實(shí)時地、連續(xù)地求解，需要考慮軟、硬件代價和可實(shí)現(xiàn)性，因此建模困難。(3)前述的兩點(diǎn)困難實(shí)際上對傳統(tǒng)單核、單線程系統(tǒng)也存在，但依賴片上資源獨(dú)占和操作系統(tǒng)的適當(dāng)調(diào)度，基本能夠滿足系統(tǒng)要求。然而對CMT而言，多個線程間存在片上資源互相競爭和干擾現(xiàn)象，進(jìn)一步加劇了線程性能和整個系統(tǒng)的不可預(yù)測性和不可控制性，因此需要專門的研究和處理。

綜上，線程性能的預(yù)測和控制能力關(guān)系到CMT系統(tǒng)性能潛力能否充分發(fā)揮以及計算任務(wù)能否按要求執(zhí)行，現(xiàn)有技術(shù)無論是軟件還是硬件方面都難以給出滿意的解決方案。歸其原因，一方面是目前缺少線程“性能-資源”依賴關(guān)系的準(zhǔn)確的、量化的、普適的、可操作的模型，導(dǎo)致目前除了操作系統(tǒng)調(diào)度控制在片運(yùn)行時間之外，對線程性能的預(yù)測和控制無從下手。另一方面，CMT系統(tǒng)的線程調(diào)度功能由操作系統(tǒng)層次部分下移到處理器內(nèi)部實(shí)現(xiàn)，各線程的進(jìn)度水平實(shí)際是受到操作系統(tǒng)調(diào)度方法和處理器片上資源分配和線程調(diào)度方法共同影響和決定，加大了線程性能的預(yù)測和控制難度?？傊壳皩MT系統(tǒng)中線程性能缺少有效的預(yù)測、控制的方法和技術(shù)。

發(fā)明內(nèi)容