[發明專利]圖像識別深度信念網絡結構的構建方法

有效

• 申請號: 201710106384.9
• 申請日: 2017-02-27
• 公開（公告）號: CN106991429B
• 公開（公告）日: 2018-10-23
• 發明（設計）人: 馬苗;許西丹;武杰;郭敏;吳琦
• 申請（專利權）人: 陜西師范大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 西安永生專利代理有限責任公司 61201
• 代理人: 申忠才

1.一種圖像識別深度信念網絡結構的構建方法，其特征在于由下述步驟組成：

(1)圖像預處理

從圖像數據集中選取50400～60000張訓練樣本圖像和6000～20000張測試樣本圖像進行灰度化和大小歸一化至32×32或28×28；

(2)確定圖像識別深度信念網絡結構

1)確定第一個受限玻爾茲曼機隱含層節點數M

設定受限玻爾茲曼機隱含層節點數為M，將訓練樣本圖像分100批輸入到受限玻爾茲曼機網絡中，迭代至網絡收斂，在連續50次訓練樣本圖像的重構誤差的變化范圍小于0.001時為收斂，得到訓練樣本圖像的重構誤差，重構誤差用(1)式確定：

式中m為輸入圖像的像素點個數，n為每一批數據的圖像個數，v_i為每一批輸入的圖像矩陣，為經過隱含層(h_n)后重構出的圖像矩陣， 為輸出層(p_f)，θ為權值與偏置的集合，不斷調整M的大小，根據不同M得到的重構誤差和迭代所需時間，選擇重構誤差最小，所用時間最短的節點數M為第一個受限玻爾茲曼機隱含層(h_n)節點數，構建成在輸入層(v_m)與輸出層(p_f)之間含有一個隱含層(h_n)的網絡結構；

2)確定網絡層數和各隱含層節點數

在確定第一個隱含層(h_n)節點數的基礎上，在輸入層(v_m)與輸出層(p_f)之間增加1～3層隱含層(h_n)，將訓練樣本圖像分100批輸入到含有1～3層隱含層(h_n)的網絡結構中迭代至指定迭代次數50～200次，得到識別率，選擇使當前層中識別率達到最高所對應的隱含層(h_n)節點數，確定網絡層數和各隱含層(h_n)節點數，構建成圖像識別深度信念網絡結構；

(3)調整圖像識別深度信念網絡參數

改變網絡初始化方式：將訓練樣本圖像輸入到由步驟(1)所確定的輸入層(v_m)與輸出層(p_f) 之間含有一個隱含層(h_n)的網絡中，迭代至網絡收斂，得到輸入層(v_m)與隱含層(h_n)之間的連接權重，用該連接權重去初始化圖像識別深度信念網絡結構中輸入層(v_m)與第一個隱含層(h_n)之間的連接權重；

確定圖像識別深度信念網絡學習率α：通過全局學習算法對圖像識別深度信念網絡的學習率進行調整，0.1≤α<1，間隔為0.1，選擇迭代次數為50～200、識別率最高時所對應的α的值；

在網絡損失函數中加入正則項約束并調整正則項系數，在損失函數

中加入正則項約束，得到圖像識別深度信念網絡的損失函數為(3)式，式中λ為正則項系數，根據圖像識別深度信念網絡識別率按照1×10^-10～1、間隔10倍進行調整λ的值，選擇識別率最高時所對應的λ值，

式中m為輸入圖像像素點的個數，n為每一批數據的個數，v_i為輸入的圖像矩陣，為經過一層隱含層(h_n)后重構出的圖像矩陣，W_ij為各層間連接權值，θ為{W,b}，b為圖像識別深度信念網絡的偏置，得到圖像識別深度信念網絡結構及參數；

(4)對測試樣本圖像進行識別

將測試樣本圖像6000～20000張輸入到上述構建成的圖像識別深度信念網絡中，得到各測試樣本圖像的識別結果，判斷所構建的網絡為圖像識別深度信念網絡結構。

2.根據權利要求1所述的圖像識別深度信念網絡結構的構建方法，其特征在于所述的步驟(3)中，在網絡損失函數中加入正則項約束并調整正則項系數，在損失函數

中加入正則項約束，得到圖像識別深度信念網絡的損失函數為(3)式，

式中λ為正則項系數，根據圖像識別深度信念網絡識別率按照1×10^-5進行調整λ的值，得到圖像識別深度信念網絡結構及參數。