[發(fā)明專利]一種張量處理方法和系統(tǒng)

有效

• 申請?zhí)枺?/td>: 202110458766.4
• 申請日: 2021-04-27
• 公開（公告）號: CN113240077B
• 公開（公告）日: 2022-04-05
• 發(fā)明（設(shè)計）人: 李國亮;李銳;張磊;楊勤富;錢軍
• 申請（專利權(quán)）人: 瀚博半導(dǎo)體（上海）有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08
• 代理公司: 上海市金茂律師事務(wù)所 31299
• 代理人: 王翠平;彭世明

本申請?zhí)峁┮环N張量處理方法和系統(tǒng)，該方法包括：基于硬件加速器的工作參數(shù)信息，確定待處理的張量的劃分區(qū)域數(shù)量信息；基于所述劃分區(qū)域數(shù)量信息，確定所述待處理的張量對應(yīng)的至少兩個輸入?yún)^(qū)域；以及，通過所述硬件加速器對所述輸入?yún)^(qū)域執(zhí)行預(yù)定處理，以獲得分別對應(yīng)所述輸入?yún)^(qū)域的輸出區(qū)域。本申請對張量的處理能夠突破硬件方面的限制，且計算量小，處理速度快；另一方面，對各部分進行處理時相關(guān)硬件加速器的處理負(fù)荷相對均衡，整體上處理原待處理張量的效率提高了。

技術(shù)領(lǐng)域

本申請涉及計算機信息處理領(lǐng)域，尤其涉及一種張量處理技術(shù)。

背景技術(shù)

隨著計算機系統(tǒng)處理能力取得巨大發(fā)展，機器學(xué)習(xí)(例如深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò))技術(shù)也得到廣泛使用。在某些情形下，人們需要通過計算機進行二維或更高維張量的卷積計算。在實際計算時，張量的某些參數(shù)有時可能會超出硬件加速器的相關(guān)限制(例如張量的高度或?qū)挾瓤赡艹黾铀倨鞯南鄳?yīng)限制，或者加速器對片上內(nèi)存、可用的計算資源等可能會進行限制)，十分不便。

發(fā)明內(nèi)容

本申請的一個目的是提供一種張量處理方法及張量處理系統(tǒng)。

根據(jù)本申請的一個實施例，本申請?zhí)峁┝艘环N張量處理方法，該方法包括：

基于硬件加速器的工作參數(shù)信息，確定待處理的張量的劃分區(qū)域數(shù)量信息；

基于所述劃分區(qū)域數(shù)量信息，確定所述待處理的張量對應(yīng)的至少兩個輸入?yún)^(qū)域；以及，

通過所述硬件加速器對所述輸入?yún)^(qū)域執(zhí)行預(yù)定處理，以獲得分別對應(yīng)所述輸入?yún)^(qū)域的輸出區(qū)域。

根據(jù)本申請的另一個實施例，本申請還提供了一種張量處理系統(tǒng)，其中，該系統(tǒng)至少包括：

區(qū)域數(shù)量確定裝置，其中所述輸入?yún)^(qū)域確定裝置被配置為：

基于硬件加速器的工作參數(shù)信息，確定待處理的張量的劃分區(qū)域數(shù)量信息；

輸入?yún)^(qū)域確定裝置，其中所述輸入?yún)^(qū)域確定裝置被配置為：

基于所述劃分區(qū)域數(shù)量信息，確定所述待處理的張量對應(yīng)的至少兩個輸入?yún)^(qū)域；以及，

區(qū)域處理裝置，其中所述區(qū)域處理裝置被配置為：

通過所述硬件加速器對所述輸入?yún)^(qū)域執(zhí)行預(yù)定處理，以獲得分別對應(yīng)所述輸入?yún)^(qū)域的輸出區(qū)域。

根據(jù)本申請的另一個實施例，本申請?zhí)峁┝艘环N計算機可讀存儲介質(zhì)，該計算機可讀存儲介質(zhì)上存儲有計算機程序，所述計算機程序被執(zhí)行時能夠?qū)崿F(xiàn)以上任一項所述方法的操作。

根據(jù)本申請的另一實施例，本申請?zhí)峁┝艘环N電子設(shè)備，該電子設(shè)備至少包括：

一個或多個處理器；

存儲器，其用于存儲可執(zhí)行指令；

所述一個或多個處理器被配置為經(jīng)由所述可執(zhí)行指令來實現(xiàn)以上任一項所述方法的操作。