[發(fā)明專(zhuān)利]可重新配置的矩陣乘法器系統(tǒng)和方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201880014540.1
• 申請(qǐng)日: 2018-02-28
• 公開(kāi)（公告）號(hào): CN110383237B
• 公開(kāi)（公告）日: 2023-05-26
• 發(fā)明（設(shè)計(jì)）人: A·J·雷德芬;D·E·史泰斯;T·D·安德森;K·車(chē)爾卡
• 申請(qǐng)（專(zhuān)利權(quán)）人: 德克薩斯儀器股份有限公司
• 主分類(lèi)號(hào): G06F7/52
• 分類(lèi)號(hào): G06F7/52;G06F17/16
• 代理公司: 北京紀(jì)凱知識(shí)產(chǎn)權(quán)代理有限公司 11245
• 代理人: 李英

可重新配置的矩陣乘法器(RMM)(0410)系統(tǒng)/方法允許緊密或松散耦合到片上系統(tǒng)(SOC)環(huán)境(0401)中的監(jiān)督控制處理器應(yīng)用控制邏輯(ACL)。RMM(0410)提供C＝A*B矩陣乘法運(yùn)算，其具有A乘數(shù)矩陣(AMM)、B被乘數(shù)矩陣(BMM)和C乘積矩陣(CPM)，以及C＝A*B+D運(yùn)算，其中D求和矩陣(DSM)表示先前乘法運(yùn)算的結(jié)果或另一個(gè)先前定義的矩陣。RMM(0410)提供附加的CPM?LOAD/STORE(加載/存儲(chǔ))路徑，允許計(jì)算/數(shù)據(jù)傳輸操作(0421，0422，0423)的重疊，并從先前計(jì)算的CPM結(jié)果向AMM或BMM操作數(shù)輸入提供CPM數(shù)據(jù)反饋。RMM(0410)預(yù)期共同使用8、16和32位操作數(shù)的可重新配置矩陣數(shù)據(jù)以及512位數(shù)據(jù)寬度的外部存儲(chǔ)器總線和使用一系列RMM配置字(RCW)和流操作碼功能(SOF)實(shí)施的指令控制單元(ICU)。

技術(shù)領(lǐng)域

本發(fā)明涉及實(shí)現(xiàn)形式C＝A*B和C＝A*B+D的矩陣乘法的硬件，其中A乘數(shù)矩陣(AMM)、B被乘數(shù)矩陣(BMM)、C乘積矩陣(CPM)和D-求和矩陣(DSM)的數(shù)據(jù)寬度可以動(dòng)態(tài)地重新配置以解譯包含在固定外部存儲(chǔ)器數(shù)據(jù)總線(EMB)內(nèi)的數(shù)據(jù)。

背景技術(shù)

這涉及可重新配置的矩陣乘法器(RMM)系統(tǒng)和實(shí)現(xiàn)固定點(diǎn)矩陣乘法的方法。RMM提供C＝A*B矩陣乘法運(yùn)算，具有A乘數(shù)矩陣(AMM)、B被乘數(shù)矩陣(BMM)和C乘積矩陣(CPM)，以及C＝A*B+D運(yùn)算，其中D求和矩陣(DSM)表示先前乘法運(yùn)算的結(jié)果或另一個(gè)先前定義的矩陣。多位輸入數(shù)據(jù)(A，B，D)可以被解譯為以可重新配置的方式在固定的外部存儲(chǔ)器數(shù)據(jù)總線內(nèi)復(fù)制，從而允許矩陣乘法器硬件重用，與從最低精度的基線開(kāi)始的矩陣縮放匹配并且對(duì)于精度每增加一倍：

·每個(gè)維度中的C矩陣尺寸減少一半；

·矩陣乘法器-累加器(MAC)縮放四分之一，實(shí)現(xiàn)高效的矩陣乘法器重用；

·C矩陣?yán)奂悠骶缺３譃檩斎霐?shù)據(jù)(A，B，D)精度的四倍，與輸入數(shù)據(jù)類(lèi)型無(wú)關(guān)(在一些實(shí)施例中，C矩陣?yán)奂悠骶缺３衷谳斎霐?shù)據(jù)(A，B，D)精度的雙多邊形倍數(shù))；

之前使用的B矩陣和C矩陣行的一半可以被釋放并且可以用于替代算法。

C累加器矩陣可以包括附加的加載存儲(chǔ)(LOAD-STORE)數(shù)據(jù)路徑，其：

·改善長(zhǎng)卷積和C＝A*B+D運(yùn)算的性能；

·在8位輸入數(shù)據(jù)的情況下，包括使用附加的C矩陣存儲(chǔ)器；

·在16位和32位輸入數(shù)據(jù)的情況下，可以包括可以實(shí)現(xiàn)的額外C矩陣存儲(chǔ)器，或者可以實(shí)現(xiàn)現(xiàn)有的兩個(gè)C矩陣存儲(chǔ)器的額外行。

發(fā)明內(nèi)容

可重新配置的矩陣乘法器(RMM)系統(tǒng)/方法允許在片上系統(tǒng)(SOC)環(huán)境中與監(jiān)督控制處理器應(yīng)用控制邏輯(ACL)緊密或松散耦合。RMM提供C＝A*B矩陣乘法運(yùn)算，其具有A乘數(shù)矩陣(AMM)、B被乘數(shù)矩陣(BMM)和C乘積矩陣(CPM)，以及C＝A*B+D運(yùn)算，其中D求和矩陣(DSM)表示先前乘法運(yùn)算的結(jié)果或另一個(gè)先前定義的矩陣。RMM提供附加的CPM?LOAD/STORE(加載/存儲(chǔ))路徑，允許計(jì)算/數(shù)據(jù)傳輸操作的重疊，并從先前計(jì)算的CPM結(jié)果向AMM或BMM操作數(shù)輸入提供CPM數(shù)據(jù)反饋。RMM預(yù)期使用8、16和32位操作數(shù)的可重新配置的矩陣數(shù)據(jù)以及512位數(shù)據(jù)寬度的外部存儲(chǔ)器總線和使用一系列RMM配置字(RCW)和流操作碼功能(SOF)實(shí)現(xiàn)的指令控制單元(ICU)。

附圖說(shuō)明

圖1示出實(shí)施例的系統(tǒng)塊圖。

圖2示出在緊密耦合的可重新配置的矩陣乘法器(RMM)應(yīng)用背景中實(shí)現(xiàn)的實(shí)施例的系統(tǒng)塊圖。

圖3示出在松散耦合的可重新配置的矩陣乘法器(RMM)應(yīng)用背景中實(shí)現(xiàn)的實(shí)施例的系統(tǒng)塊圖。

圖4示出使用512位外部存儲(chǔ)器總線(EMB)與CPU接口連接的實(shí)施例的系統(tǒng)塊圖。