[發明專利]三維神經網絡處理方法及圖像處理方法、系統和存儲介質

在審

• 申請號: 202310329084.2
• 申請日: 2023-03-28
• 公開（公告）號: CN116343009A
• 公開（公告）日: 2023-06-27
• 發明（設計）人: 錢平;韓睿;王文浩;鄭一鳴;謝凌東;李富強;李特;蔣鵬;姜雄偉;李斐然;劉爽;宮磊;周學海;李曦;錢佳明
• 申請（專利權）人: 國網浙江省電力有限公司電力科學研究院;中國科學技術大學蘇州高等研究院;國網浙江省電力有限公司寧波供電公司
• 主分類號: G06V10/82
• 分類號: G06V10/82;G06N3/0495;G06N3/0464;G06N3/045
• 代理公司: 浙江翔隆專利事務所(普通合伙) 33206
• 代理人: 許守金

1.一種基于分塊循環矩陣的三維神經網絡處理方法，其特征在于，

包括以下內容：

利用預先構建的分塊循環矩陣模型，使用分塊循環矩陣表示神經網絡的權重，對神經網絡的全連接層或/和卷積層進行壓縮，得到壓縮后的全連接層或/和卷積層；

通過預先構建的計算加速模型，采用傅立葉變換，對壓縮后的全連接層或/和卷積層進行加速計算，得到頻域計算結果；

根據預先構建的全頻域模型，選取頻域算子，對頻域計算結果進行頻域內的激活、批歸一化以及池化操作，從而完成基于分塊循環矩陣的三維神經網絡處理。

2.如權利要求1所述的一種基于分塊循環矩陣的三維神經網絡處理方法，其特征在于，

分塊循環矩陣模型的構建方法如下：

第一步，設置N×N的矩陣A，用于表示循環矩陣；

第二步，構造矩陣A的元素，當且僅當其每一行元素都是上一行元素循環右移一個位置的結果，通過存儲矩陣A的第一列元素表示整個矩陣A，第一列元素所構成的向量為循環矩陣的生成向量。

3.如權利要求2所述的一種基于分塊循環矩陣的三維神經網絡處理方法，其特征在于，

計算加速模型的構建方法如下：

根據循環卷積算法，對相乘的循環矩陣和任意向量進行加速；

循環矩陣為N×N的矩陣A；

向量為N×1的向量x；

循環卷積算法的計算公式如下：

A·x＝IFFT(FFT(a)⊙FFT(x))#(1)

其中，a是矩陣A的生成向量，FFT為快速傅立葉變換，IFFT為快速傅立葉逆變換，⊙表示元素級乘法。

4.如權利要求3所述的一種基于分塊循環矩陣的三維神經網絡處理方法，其特征在于，

全頻域模型的構建方法如下：

根據頻域算子的計算復雜度和精度損失，采用CReLU、CBN和CMaxPool作為頻域算子，其表達式如下所示：

CReLU(a+bi)＝ReLU(a)+ReLU(b)

CBN(a+bi)＝BN(a)+BN(b)

CMaxpool(a+bi)＝Maxpool(a)+iMaxpool(b)

其中，ReLU、BN和MaxPool分別是實數域上的激活、批歸一化和最大池化操作，a是實數域上的數值，b為虛數域上的數值。

5.如權利要求1所述的一種基于分塊循環矩陣的三維神經網絡處理方法，其特征在于，

對神經網絡的全連接層進行壓縮的方法如下：

步驟11，獲取全連接層的權重矩陣W，權重矩陣W的尺寸為M×N；

步驟12，將尺寸為M×N的權重矩陣W劃分為p×q個k×k的方陣W_ij；

p＝M/k，q＝N/k，若無法整除，則對W進行填充，直至整除為止；

步驟13，將方陣W_ij構建為循環矩陣，用于對神經網絡的參數數目進行壓縮。

6.如權利要求5所述的一種基于分塊循環矩陣的三維神經網絡處理方法，其特征在于，

對壓縮后的全連接層進行加速計算的方法如下：

S11，根據循環矩陣，將全連接層的計算a＝W·x按照分塊矩陣-向量乘法進行，其計算公式如下：

其中，a為輸出特征向量，W是一個分塊循環矩陣，x為輸入特征向量；a_i為輸出特征向量的子向量，W_ij為循環矩陣，x_j為輸入特征向量的子向量；

S12，通過快速傅立葉變換FFT對分塊矩陣-向量乘法進行加速，以降低全連接層的計算量，其計算公式如下：

S13，利用快速傅立葉變換FFT/快速傅立葉逆變換IFFT的線性性質，將快速傅立葉逆變換IFFT移至求和符號外，將快速傅立葉逆變換IFFT的調用次數由q減少為1，其計算公式如下：

其中，FFT為快速傅立葉變換，IFFT為快速傅立葉逆變換。