[發明專利]數據處理方法及人工智能處理器

有效

• 申請號: 202011381294.9
• 申請日: 2020-11-30
• 公開（公告）號: CN112395092B
• 公開（公告）日: 2023-06-02
• 發明（設計）人: 裴京;施路平;徐明坤;王冠睿;馬騁
• 申請（專利權）人: 清華大學
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F17/15
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

本公開涉及數據處理方法及人工智能處理器，所述方法包括根據預設的像素讀取位寬，從存儲單元讀取第一像素數據；在k個卷積核的第Ky行的第T次運算時，根據預設的權重讀取位寬，從存儲單元讀取第一權重數據，第一權重數據包括k個卷積核的第m個通道、第Ky行、卷積核位置T處的權重數據；根據卷積核的步長Sx，從第一像素數據中選取與卷積核位置T對應的a個像素數據作為第二像素數據；在T1時，針對MAC陣列中的第q列MAC，將第二像素數據與第一權重數據中的第q個權重數據相乘，并與第T?1次運算的結果相加，得到第q列MAC第T次運算的a個第一卷積運算結果。根據本公開實施例的數據處理方法能夠有效提高卷積運算效率。

技術領域

本公開涉及計算機技術領域，尤其涉及一種數據處理方法及人工智能處理器。

背景技術

神經形態芯片是依托于類腦計算，實現脈沖神經網絡等具有生物可解釋性類腦算法的重要平臺。其中，卷積運算是基于眾核架構的神經形態芯片實現人工神經網絡的重要邏輯運算之一。

如何基于神經形態芯片實現高效地卷積運算，是提升神經形態芯片運算效率的關鍵。

發明內容

有鑒于此，本公開提出了一種數據處理方法及人工智能處理器，以高效地實現卷積運算。

根據本公開的一方面，提供了一種數據處理方法，應用于人工智能處理器的處理核心，所述人工智能處理器包括多個處理核心，每個處理核心包括存儲單元及運算單元，所述存儲單元用于存儲圖像的像素數據及N個卷積核的權重數據；所述運算單元包括乘數累加器MAC陣列，用于根據所述像素數據及所述權重數據進行運算，其中，所述圖像的尺寸為W₀×H₀×C₀，所述卷積核的尺寸為K×K×C₀，行方向的步長為Sx，W₀、H₀、C₀、K、Sx為正整數，所述方法包括：根據預設的像素讀取位寬，從所述存儲單元讀取第一像素數據，所述第一像素數據包括所述圖像的第m個通道、第Py行的連續的M個像素數據，1≤m≤C₀，1≤Py≤H₀，1M≤W₀；在k個卷積核的第Ky行的第T次運算時，根據預設的權重讀取位寬，從所述存儲單元讀取第一權重數據，所述第一權重數據包括k個卷積核的第m個通道、第Ky行、卷積核位置T處的權重數據，1k≤N，1≤T≤K，1≤Ky≤K；根據所述卷積核的步長Sx，從所述第一像素數據中選取與卷積核位置T對應的a個像素數據作為第二像素數據，1a＜M；在T1時，針對所述MAC陣列中的第q列MAC，將所述第二像素數據與所述第一權重數據中的第q個權重數據相乘，并與第T-1次運算的結果相加，得到所述第q列MAC第T次運算的a個第一卷積運算結果，1≤q≤k。

在一種可能的實現方式中，所述方法還包括：在T＝1時，針對所述第q列MAC，將所述第二像素數據與所述第一權重數據中的第q個權重數據相乘，并與第Ky-1行的第K次運算的卷積運算結果相加，得到所述第q列MAC第1次運算的a個第一卷積運算結果，1≤q≤k。

在一種可能的實現方式中，所述方法還包括：針對所述第q列MAC，在完成所述k個卷積核的K行的運算后，得到所述第m個通道的a個第二卷積運算結果；在得到的C₀個通道的卷積運算結果后，將每個卷積核的C₀個通道的卷積運算結果相加，得到第q列MAC輸出的a個目標卷積運算結果。

在一種可能的實現方式中，所述方法還包括：根據權重存儲位寬，存儲所述N個卷積核的權重數據，其中，所述權重存儲位寬與所述權重讀取位寬一致；所述根據權重存儲位寬，存儲所述N個卷積核的權重數據，包括：針對所述N個卷積核中的每個卷積核，依次按照該卷積核的行方向、列方向和通道C₀的順序，將該卷積核的權重數據縱向排列為第一權重向量；將所述N個卷積核的第一權重向量橫向對齊合并為第一權重矩陣；根據所述權重存儲位寬，橫向存儲所述第一權重矩陣中的權重數據。