[發明專利]基于進化神經網絡結構搜索的圖像分類方法

在審

• 申請號: 202210690666.9
• 申請日: 2022-06-17
• 公開（公告）號: CN114943866A
• 公開（公告）日: 2022-08-26
• 發明（設計）人: 尚榮華;劉杭成;王超;張瑋桐;任晉弘;焦李成;趙柯佳;馬文萍
• 申請（專利權）人: 之江實驗室;西安電子科技大學
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06V10/82;G06V10/774;G06N3/00;G06N3/04;G06N3/08
• 代理公司: 陜西電子工業專利中心 61205
• 代理人: 田文英;王品華

1.一種基于進化神經網絡結構搜索的圖像分類方法，其特征在于，利用標量編碼對神經網絡的網絡塊進行編碼，根據當前種群中的多樣性和適應度情況自適應地調節交叉和變異概率，通過交叉、變異操作生成子代種群，利用基于衰老進化的環境選擇操作，對種群進行迭代更新；該方法具體步驟包括如下：

步驟1，生成訓練集：

選取至少10種類別、每種類別至少5000張，對每張圖片按照28×28的大小進行裁剪，對裁剪后的每張圖片進行歸一化處理，將處理后的所有圖像組成訓練集；

步驟2，生成初始化種群：

將待構建的神經網絡的網絡塊通過標量的編碼方式編碼為基因個體，將20個基因個體組合為一個父代種群；

步驟3，構建初始種群中每個基因個體對應的神經網絡：

步驟3.1，遍歷第一網絡塊的標量編碼中的所有節點，對每一個節點，生成該節點對應神經網絡中的一個計算節點，該計算節點的輸入節點等于對應節的標量編碼中輸入節點的編碼，操作等于對應節點的標量編碼中卷積操作類型的編碼，將所有計算節點進行并聯，得到第一網絡塊；

步驟3.2，將第一網絡塊的所有計算節點的輸出加權求和值，作為第一網絡塊的輸出；

步驟3.3，采用與步驟3.1到步驟3.2相同的方法，對神經網絡中其他網絡塊的標量編碼進行處理，得到對應的網絡塊；

步驟3.4，在上述除最后一個網絡塊之外的所有網絡塊后添加最大池化層，最后一個網絡塊后添加全局池化層，并按照次序依次級聯，組成初始種群中每個基因個體對應的神經網絡；

步驟4，訓練神經網絡：

將訓練集輸入到神經網絡中，利用隨機梯度下降算法，迭代更新網絡權重，當學習率衰減到0.000001時，得到訓練好的神經網絡；

步驟5，計算神經網絡的適應度：

將驗證集輸入到訓練好的神經網絡中對每個樣本的類別進行預測，統計總分類樣本數以及總分類正確樣本數，計算分類準確率，將每個基因個體構建的神經網絡的分類準確率作為該基因個體的適應度；

步驟6，對當前迭代的父代種群中基因個體進行交叉操作：

步驟6.1，通過競標賽選擇方法，從當前迭代的父代種群中選擇兩個編碼不同的基因個體；

步驟6.2，計算所選擇的兩個基因個體進行交叉的概率；

步驟6.3，生成一個滿足0-1均勻分布的隨機數，若所選的兩個基因個體之間交叉的概率Pc小于或等于該隨機數時，對所選的兩個基因個體執行單點交叉操作，交換兩個基因個體對應位置的基因編碼；

步驟6.4，判斷是否已選完當前種群中的所有個體，若是，則執行步驟7，否則，執行步驟6.1；

步驟7，對當前迭代種群中基因個體進行變異操作：

步驟7.1，從當前迭代種群中隨機選擇一個未選過的基因個體；

步驟7.2，計算所選基因個體進行變異的概率：

步驟7.3，生成一個滿足0-1均勻分布的隨機數，若所選的因個體進行變異的概率Pm_i小于或等于該隨機數時，則對所選基因個體進行變異操作；

步驟7.4，判斷是否選完當前種群中的所有基因個體，若是，則將當前迭代后的種群中所有基因個體作為子代種群后執行步驟8，否則，執行步驟7.1；

步驟8，計算子代種群中每個基因個體的適應度：

采用與步驟3至步驟5的相同方法，得到子代種群中每一個基因個體對應的神經網絡的分類準確率，并將分類準確率作為基因個體的適應度；

步驟9，依據父代種群與子代種群中所有基因個體的適應度，利用基于衰老進化的環境選擇操作選擇得到新的父代種群：

步驟9.1，將當前迭代后的父代種群中的所有基因個體與當前步驟8得到的子代種群中的所有基因個體一起組成新種群；

步驟9.2，根據衰老進化對個體適應度進行調節；

步驟9.3，根據新種群中基因個體適應度的高低執行環境選擇操作，得到下一代種群；

步驟9.4，判斷當前迭代次數是否等于最大迭代次數，若是，則執行步驟10，否則，執行步驟6；

步驟10，將當前迭代的種群作為最優種群，將最優種群中適應度最高的基因個體對應的神經網絡作為最優神經網絡；

步驟11，對待分類的圖像進行分類：

對待分類的圖像按照28×28的大小進行裁剪，對裁剪后的每張圖片進行歸一化處理，將處理后的圖片輸入到訓練好的最優神經網絡中，計算最優神經網絡對待分類圖像的分類準確率，將該分類準確率作為結果輸出。