[發(fā)明專利]一種基于并列卷積單元的深度卷積神經(jīng)網(wǎng)絡(luò)方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201711049899.6
• 申請(qǐng)日: 2017-10-31
• 公開（公告）號(hào): CN107766934A
• 公開（公告）日: 2018-03-06
• 發(fā)明（設(shè)計(jì)）人: 龐彥偉;侯聰聰
• 申請(qǐng)（專利權(quán)）人: 天津大學(xué)
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/08
• 代理公司: 天津市北洋有限責(zé)任專利代理事務(wù)所12201
• 代理人: 程毓英

1.一種基于并列卷積單元的深度卷積神經(jīng)網(wǎng)絡(luò)方法,其訓(xùn)練階段包括下列步驟：

1)收集數(shù)據(jù)：收集不同類別的圖像，并標(biāo)記數(shù)據(jù)的標(biāo)簽；

2)結(jié)構(gòu)設(shè)計(jì)：定義并列卷積單元由一個(gè)簡化卷積和一個(gè)簡化卷積的變形并列組成，其中，簡化卷積的變形是將原簡化卷積中采用的兩個(gè)濾波器的位置進(jìn)行互換，設(shè)置深度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，包括并列卷積單元的數(shù)量及組合方式，設(shè)定每個(gè)卷積層特征圖的個(gè)數(shù)和大小，設(shè)定池化方式及池化窗口尺寸；

3)初始化：通過隨機(jī)初始化的方法對(duì)卷積核的參數(shù)進(jìn)行初始化，并設(shè)定迭代次數(shù)。

4)前向計(jì)算：把訓(xùn)練數(shù)據(jù)批量輸入到該網(wǎng)絡(luò)中，

(1)當(dāng)?shù)谝粋€(gè)卷積層計(jì)算結(jié)束后，輸出特征尺寸為A×B×C,其中A×B表示特征圖的大小，C表示特征通道數(shù)；

(2)設(shè)第二個(gè)卷積層的兩個(gè)濾波器為W×H×1×Z和1×1×Z×Z，其中Z與C相等，將第二個(gè)卷積層與第一個(gè)卷積層的輸出特征做卷積，輸出特征尺寸均為A×B×C；

(3)第三個(gè)卷積層的濾波器W×H×1×Z與第二層的濾波器1×1×Z×Z的輸出特征做卷積，輸出特征尺寸為A×B×C，第三層的濾波器1×1×Z×Z與第二層的濾波器W×H×1×Z的輸出特征做卷積，輸出特征尺寸為A×B×C，第三層兩個(gè)濾波器的輸出特征合并作為第三層的輸出特征，尺寸為A×B×(C×2)，作為下一層的輸入特征；

(4)按照步驟(1)-(3)計(jì)算后續(xù)的卷積層；

(5)反向傳播：從最后一層到第一層，應(yīng)用反向傳播算法Backpropagation對(duì)卷積濾波器的權(quán)重參數(shù)的進(jìn)行更新、優(yōu)化；

(6)迭代：重復(fù)步驟3和步驟4，通過迭代來不斷優(yōu)化網(wǎng)絡(luò)參數(shù)，直到達(dá)到終止條件，本示例的終止條件為達(dá)到最大迭代次數(shù)。