[發(fā)明專利]圖像數(shù)據(jù)的矩陣運(yùn)算方法、裝置、設(shè)備及存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 202110349762.2
• 申請日: 2021-03-31
• 公開（公告）號: CN112991142B
• 公開（公告）日: 2023-06-16
• 發(fā)明（設(shè)計(jì)）人: 陳仲華;李峰;劉程浩;劉毅;艾通;李昊沅;陳其鋒
• 申請（專利權(quán)）人: 騰訊科技（深圳）有限公司
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06T1/60;G06F17/16
• 代理公司: 北京三高永信知識產(chǎn)權(quán)代理有限責(zé)任公司 11138
• 代理人: 祝亞男

本申請公開了一種圖像數(shù)據(jù)的矩陣運(yùn)算方法、裝置、設(shè)備及存儲介質(zhì)，涉及計(jì)算機(jī)技術(shù)領(lǐng)域。所述方法包括：基于圖像算子的矩陣尺寸M行N列，在所述圖像數(shù)據(jù)中讀取矩陣數(shù)據(jù)；采用所述圖像算子對應(yīng)的單一計(jì)算指令對所述矩陣數(shù)據(jù)中的每列數(shù)據(jù)分別計(jì)算，得到1行中間計(jì)算結(jié)果；將所述1行中間計(jì)算結(jié)果復(fù)用重排為N行緩存數(shù)據(jù)；采用所述單一計(jì)算指令對所述緩存數(shù)據(jù)中目標(biāo)列的矩陣元素進(jìn)行計(jì)算，得到所述矩陣數(shù)據(jù)在所述單一計(jì)算指令下的計(jì)算結(jié)果；將所述計(jì)算結(jié)果輸出為所述圖像算子對所述矩陣數(shù)據(jù)的圖像處理結(jié)果。本申請?zhí)岣吡藢τ趫D像數(shù)據(jù)進(jìn)行矩陣運(yùn)算的效率。

技術(shù)領(lǐng)域

本申請涉及計(jì)算機(jī)技術(shù)領(lǐng)域，特別涉及一種圖像數(shù)據(jù)的矩陣運(yùn)算方法、裝置、設(shè)備及存儲介質(zhì)。

背景技術(shù)

在使用神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元對圖像數(shù)據(jù)進(jìn)行計(jì)算的場景中，由于神經(jīng)元均為矩陣形式的算子，因此計(jì)算機(jī)需要將圖像數(shù)據(jù)以矩陣的形式進(jìn)行存儲和計(jì)算。由于矩陣的運(yùn)算過程往往計(jì)算量很大，時(shí)延嚴(yán)重，因此需要對矩陣運(yùn)算進(jìn)行優(yōu)化來提升運(yùn)算效率。

相關(guān)技術(shù)中提供有針對矩陣數(shù)據(jù)重排的優(yōu)化方法，對源矩陣數(shù)據(jù)進(jìn)行重排操作，例如將數(shù)據(jù)排為NC4HW4格式。該重排算法不僅由于數(shù)據(jù)的大規(guī)模調(diào)整會帶來額外的耗時(shí)，而且對于通道數(shù)不能被4整除的矩陣，在運(yùn)算時(shí)會加入額外的通道填充步驟。對于大型矩陣而言，重排算法對矩陣運(yùn)算整體效率帶來的提升可以抵消通道填充帶來的額外耗費(fèi)；而對于小型矩陣而言，通道填充帶來的額外耗費(fèi)對矩陣運(yùn)算效率的影響非常大。

在對圖像數(shù)據(jù)進(jìn)行計(jì)算的場景中，如何提高小型矩陣的運(yùn)算效率，是亟待解決的技術(shù)問題。

發(fā)明內(nèi)容

本申請實(shí)施例提供了一種圖像數(shù)據(jù)的矩陣運(yùn)算方法、裝置、設(shè)備及存儲介質(zhì)，能夠通過對矩陣數(shù)據(jù)的中間計(jì)算結(jié)果進(jìn)行重排，使得對圖像數(shù)據(jù)的矩陣運(yùn)算的效率得到提升。所述技術(shù)方案如下：

根據(jù)本申請的一個(gè)方面，提供了一種圖像數(shù)據(jù)的矩陣運(yùn)算方法，應(yīng)用于計(jì)算機(jī)設(shè)備中，所述方法包括：

基于圖像算子的矩陣尺寸M行N列，在所述圖像數(shù)據(jù)中讀取矩陣數(shù)據(jù)；

采用所述圖像算子對應(yīng)的單一計(jì)算指令對所述矩陣數(shù)據(jù)中的每列數(shù)據(jù)分別計(jì)算，得到1行中間計(jì)算結(jié)果；

將所述1行中間計(jì)算結(jié)果復(fù)用重排為N行緩存數(shù)據(jù)；

采用所述單一計(jì)算指令對所述緩存數(shù)據(jù)中目標(biāo)列的矩陣元素進(jìn)行計(jì)算，得到所述矩陣數(shù)據(jù)在所述單一計(jì)算指令下的計(jì)算結(jié)果，所述目標(biāo)列是所述中間計(jì)算結(jié)果中的N個(gè)矩陣元素在所述N行緩存數(shù)據(jù)中同時(shí)所在的列；

將所述計(jì)算結(jié)果輸出為所述圖像算子對所述矩陣數(shù)據(jù)的圖像處理結(jié)果。

根據(jù)本申請的另一方面，提供了一種圖像數(shù)據(jù)的矩陣運(yùn)算裝置，所述裝置包括：

讀取模塊，用于基于圖像算子的矩陣尺寸M行N列，在所述圖像數(shù)據(jù)中讀取矩陣數(shù)據(jù)；

計(jì)算模塊，用于采用所述圖像算子對應(yīng)的單一計(jì)算指令對所述矩陣數(shù)據(jù)中的每列數(shù)據(jù)分別計(jì)算，得到1行中間計(jì)算結(jié)果；

復(fù)用模塊，用于將所述1行中間計(jì)算結(jié)果復(fù)用重排為N行緩存數(shù)據(jù)；

所述計(jì)算模塊，還用于采用所述單一計(jì)算指令對所述緩存數(shù)據(jù)中目標(biāo)列的矩陣元素進(jìn)行計(jì)算，得到所述矩陣數(shù)據(jù)在所述單一計(jì)算指令下的計(jì)算結(jié)果，所述目標(biāo)列是所述中間計(jì)算結(jié)果中的N個(gè)矩陣元素在所述N行緩存數(shù)據(jù)中同時(shí)所在的列；

輸出模塊，用于將所述計(jì)算結(jié)果輸出為所述圖像算子對所述矩陣數(shù)據(jù)的圖像處理結(jié)果。

根據(jù)本申請的另一方面，提供了一種計(jì)算機(jī)設(shè)備，所述計(jì)算機(jī)設(shè)備包括處理器和存儲器，所述存儲器中存儲有至少一條指令，所述指令由所述處理器加載并執(zhí)行以實(shí)現(xiàn)如本申請各個(gè)方面提供的矩陣數(shù)據(jù)的運(yùn)算方法。