[發(fā)明專利]配置向量運算系統(tǒng)中的協(xié)作線程束的裝置和方法

有效

• 申請?zhí)枺?/td>: 202011131448.9
• 申請日: 2020-10-21
• 公開（公告）號: CN112214243B
• 公開（公告）日: 2022-05-27
• 發(fā)明（設(shè)計）人: 不公告發(fā)明人
• 申請（專利權(quán)）人: 上海壁仞智能科技有限公司
• 主分類號: G06F9/30
• 分類號: G06F9/30;G06F17/16
• 代理公司: 北京市金杜律師事務(wù)所 11256
• 代理人: 張平

本發(fā)明涉及一種配置向量運算系統(tǒng)中的協(xié)作線程束的裝置和方法，其中的裝置包含：通用寄存器；算術(shù)邏輯單元；以及線程束指令調(diào)度器。線程束指令調(diào)度器依據(jù)軟件在執(zhí)行時的配置讓多個線程束中的每一個都通過所述算術(shù)邏輯單元存取所述通用寄存器中的全部或指定局部的數(shù)據(jù)，并通過所述算術(shù)邏輯單元完成每個上述線程束的運算。本發(fā)明通過如上所述的能夠讓軟件動態(tài)調(diào)整和配置通用寄存器給不同線程束的組件，可更廣泛地適應(yīng)不同的應(yīng)用，例如大數(shù)據(jù)、人工智能的運算等。

技術(shù)領(lǐng)域

本發(fā)明涉及向量運算裝置，尤指一種配置向量運算系統(tǒng)中的協(xié)作線程束的裝置和方法。

背景技術(shù)

向量計算機是一種配備了專門的向量指令，用于提高向量處理速度的計算機。向量計算機能夠同時處理多個線程束(Warp)的數(shù)據(jù)計算，因此，向量計算機就處理線程束的數(shù)據(jù)而言，比標(biāo)量計算機快得多。然而，多個線程束存取通用寄存器文件(General-PurposeRegister File，GPR File)可能發(fā)生沖突，因此，本發(fā)明提出一種配置向量運算系統(tǒng)中的協(xié)作線程束的裝置的方法。

發(fā)明內(nèi)容

有鑒于此，如何減輕或消除上述相關(guān)領(lǐng)域的缺陷，實為有待解決的問題。

本發(fā)明的實施例涉及一種配置向量運算系統(tǒng)中的協(xié)作線程束的裝置，包含：通用寄存器；算術(shù)邏輯單元；以及線程束指令調(diào)度器。線程束指令調(diào)度器依據(jù)軟件在執(zhí)行時的配置讓多個線程束中的每個通過所述算術(shù)邏輯單元存取所述通用寄存器中的全部或指定局部的數(shù)據(jù)，并通過所述算術(shù)邏輯單元完成每個上述線程束的運算。

本發(fā)明的實施例還涉及一種配置向量運算系統(tǒng)中的協(xié)作線程束的方法，包含：依據(jù)軟件在執(zhí)行時的配置讓多個線程束中的每個通過算術(shù)邏輯單元存取通用寄存器中的全部或指定局部的數(shù)據(jù)；以及通過所述算術(shù)邏輯單元完成每個上述線程束的運算。

上述實施例的優(yōu)點之一，通過以上所述的能夠讓軟件動態(tài)調(diào)整和配置通用寄存器給不同線程束的組件和操作，可更廣泛地適應(yīng)不同的應(yīng)用，例如大數(shù)據(jù)、人工智能的運算等。

本發(fā)明的實施例還涉及一種配置向量運算系統(tǒng)中的協(xié)作線程束的裝置，包含：算術(shù)邏輯單元；以及線程束指令調(diào)度器。線程束指令調(diào)度器依據(jù)程序核中的線程束分配指令讓多個線程束中的每一個包含程序核中的一部分相對獨立指令，用于讓所述算術(shù)邏輯單元獨立且并行的執(zhí)行多個所述線程束。

本發(fā)明的實施例還涉及一種配置向量運算系統(tǒng)中的協(xié)作線程束的方法，包含：依據(jù)程序核中的線程束分配指令讓多個線程束中的每一個包含所述程序核中的一部分相對獨立指令，用于讓算術(shù)邏輯單元獨立且并行的執(zhí)行多個所述線程束。

上述實施例的優(yōu)點之一，通過動態(tài)配置程序核中多段的相對獨立指令給不同線程束，可避免線程束間互相干擾以提升流水線的使用率。

本發(fā)明的其他優(yōu)點將配合以下的說明和附圖進行更詳細的解說。

附圖說明

此處所說明的附圖用于提供對本申請的進一步理解，構(gòu)成本申請的一部分，本申請的示意性實施例及其說明用于解釋本申請，并不構(gòu)成對本申請的不當(dāng)限定。

圖1為依據(jù)本發(fā)明實施例的向量運算系統(tǒng)的框圖。

圖2為依據(jù)本發(fā)明實施例的流多處理器的框圖。

圖3為一些實施方式的通用寄存器的分割示意圖。

圖4為依據(jù)本發(fā)明實施例的搭配各線程束資源寄存器的通用寄存器的動態(tài)分割示意圖。

圖5為依據(jù)本發(fā)明實施例的流程圖，應(yīng)用于并行地執(zhí)行任務(wù)的協(xié)作線程束。

圖6為依據(jù)本發(fā)明實施例的生產(chǎn)者和消費者的協(xié)作線程束的示意圖。

圖7為依據(jù)本發(fā)明實施例的流程圖，應(yīng)用于執(zhí)行生產(chǎn)者-消費者式的任務(wù)的協(xié)作線程束。

其中，附圖中符號的簡單說明如下：