[發(fā)明專利]一種浮點(diǎn)向量加速方法及裝置

在審

• 申請?zhí)枺?/td>: 201711378427.5
• 申請日: 2017-12-19
• 公開（公告）號: CN108153514A
• 公開（公告）日: 2018-06-12
• 發(fā)明（設(shè)計）人: 海明;王英力;宋風(fēng)合
• 申請（專利權(quán)）人: 北京云知聲信息技術(shù)有限公司
• 主分類號: G06F7/57
• 分類號: G06F7/57;G06F9/30
• 代理公司: 北京尚倫律師事務(wù)所 11477
• 代理人: 張俊國

本發(fā)明是關(guān)于一種浮點(diǎn)向量加速方法及裝置。該裝置包括：算數(shù)邏輯單元、控制器、緩存單元及緩存互連單元，其中，所述緩存單元包括6個緩存模塊；所述緩存單元通過所述緩存互聯(lián)單元接收數(shù)據(jù)，并將所述數(shù)據(jù)存儲到相應(yīng)的緩存模塊；所述算數(shù)邏輯單元，通過所述控制器獲取向量運(yùn)算指令，根據(jù)所述向量運(yùn)算指令從對應(yīng)的緩存模塊中獲取運(yùn)算對象進(jìn)行相應(yīng)運(yùn)算，并將得到的運(yùn)算結(jié)果通過所述緩存互連單元發(fā)送到所述向量運(yùn)算指令指定的緩存模塊存儲。該技術(shù)方案更加靈活、高速、準(zhǔn)確地完成浮點(diǎn)向量的計算，節(jié)約了CPU的資源開銷。

技術(shù)領(lǐng)域

本申請涉及數(shù)據(jù)處理技術(shù)領(lǐng)域，尤其涉及浮點(diǎn)向量加速方法及裝置。

背景技術(shù)

目前，隨著計算機(jī)技術(shù)的快速發(fā)展，在系統(tǒng)應(yīng)用中，算法越來越復(fù)雜，計算量越來越大，因此，集成的運(yùn)算單元也越來越多。向量計算，是計算機(jī)科學(xué)領(lǐng)域的較為常見的計算。目前，由于向量計算相對復(fù)雜，不能采用簡單的運(yùn)算單元進(jìn)行計算，而需要在CPU或DSP中進(jìn)行計算。這樣，靈活性較差，運(yùn)算速度較低。

發(fā)明內(nèi)容

本申請實(shí)施例提供浮點(diǎn)向量加速方法及裝置。所述技術(shù)方案如下：

根據(jù)本申請實(shí)施例的第一方面，提供一種浮點(diǎn)向量加速方法，應(yīng)用于浮點(diǎn)向量加速裝置，該裝置包括：算數(shù)邏輯單元、控制器、緩存單元及緩存互連單元，其中，所述緩存單元包括6個緩存模塊；所述方法包括：

所述緩存單元通過所述緩存互聯(lián)單元接收數(shù)據(jù)，并將所述數(shù)據(jù)存儲到所述緩存單元中相應(yīng)的緩存模塊；

所述算數(shù)邏輯單元通過所述控制器獲取向量運(yùn)算指令，根據(jù)所述向量運(yùn)算指令從對應(yīng)的緩存模塊中獲取運(yùn)算對象，并根據(jù)所述向量運(yùn)算指令在所述算數(shù)邏輯單元進(jìn)行相應(yīng)運(yùn)算；

所述算數(shù)邏輯單元將得到的運(yùn)算結(jié)果通過所述緩存互連單元發(fā)送到所述向量運(yùn)算指令指定的緩存模塊存儲。

可選的，所述算數(shù)邏輯單元包括：至少4個浮點(diǎn)運(yùn)算單元及至少兩個數(shù)據(jù)選擇器，所述算數(shù)邏輯單元通過所述控制器獲取向量運(yùn)算指令，根據(jù)所述向量運(yùn)算指令從對應(yīng)的緩存模塊中獲取運(yùn)算對象，并根據(jù)所述向量運(yùn)算指令在所述算數(shù)邏輯單元進(jìn)行相應(yīng)運(yùn)算，包括：

所述數(shù)據(jù)選擇器根據(jù)所述控制指令，從所述緩存單元中的緩存模塊獲取所述運(yùn)算對象；

所述數(shù)據(jù)選擇器將所述運(yùn)算對象發(fā)送到相應(yīng)的浮點(diǎn)運(yùn)算單元，由所述浮點(diǎn)運(yùn)算單元根據(jù)所述運(yùn)算指令進(jìn)行相應(yīng)的運(yùn)算。

可選的，所述通過所述緩存互聯(lián)單元接收數(shù)據(jù)，包括：

通過所述緩存互聯(lián)單元接收來自外部總線或CPU的數(shù)據(jù)。

可選的，所述算數(shù)邏輯單元通過所述控制器獲取向量運(yùn)算指令，根據(jù)所述向量運(yùn)算指令從對應(yīng)的緩存模塊中獲取運(yùn)算對象，并根據(jù)所述向量運(yùn)算指令在所述算數(shù)邏輯單元進(jìn)行相應(yīng)運(yùn)算，包括：

所述控制器解析所述向量運(yùn)算指令，得到運(yùn)算對象所在的緩存模塊，所要進(jìn)行的運(yùn)算類型以及運(yùn)算結(jié)果的存儲位置；

所述算數(shù)邏輯單元根據(jù)所述控制器的解析結(jié)果，從所述控制器獲取運(yùn)算類型，并從對應(yīng)的緩存模塊中獲取所述運(yùn)算對象；

所述算數(shù)邏輯單元對所述運(yùn)算對象完成所述運(yùn)算類型對應(yīng)的運(yùn)算，得到運(yùn)算結(jié)果發(fā)送至所述緩存互聯(lián)單元；

所述緩存互聯(lián)單元根據(jù)所述控制器解析得到的運(yùn)算結(jié)果的存儲位置，將所述運(yùn)算結(jié)果發(fā)送至所述存儲位置對應(yīng)的緩存模塊存儲。

可選的，所述浮點(diǎn)向量加速裝置還包括：指令傳輸單元，所述方法還包括：

所述指令傳輸單元將接收到的運(yùn)算指令按照先入先出的方式發(fā)送到所述控制器。

根據(jù)本申請實(shí)施例的第二方面，提供一種浮點(diǎn)向量加速裝置，包括：算數(shù)邏輯單元、控制器、緩存單元及緩存互連單元，其中，所述緩存單元包括6個緩存模塊；