[發明專利]一種基于卷積神經網絡正則化處理的圖像檢索方法

有效

• 申請號: 202011597827.7
• 申請日: 2020-12-29
• 公開（公告）號: CN112685590B
• 公開（公告）日: 2022-10-14
• 發明（設計）人: 李宏亮;戚耀;鐘子涵;李泊琦
• 申請（專利權）人: 電子科技大學
• 主分類號: G06F16/583
• 分類號: G06F16/583;G06F16/538;G06N3/04
• 代理公司: 電子科技大學專利中心 51203
• 代理人: 鄒裕蓉

本發明提出一種基于卷積神經網絡正則化處理的圖像檢索方法，利用基于結構拓展的卷積神經網絡正則化處理，將神經網絡結構用有向無環圖的形式來表示，再對有向無環圖的結構進行一系列拓展，然后訓練拓展后所得圖所對應的神經網絡，最后將神經網絡中除原始結構以外的層刪除。相比現有技術，本發明所提方法在不增加推理代價的情況下，提升了神經網絡的性能，在計算機視覺的各大方向均有應用前景。

技術領域

本發明涉及于圖像檢索技術，特別涉及卷積神經網絡正則化技術。

背景技術

基于內容的圖像檢索在各工業領域具有廣闊的應用前景。基于內容的圖像檢索利用計算機對圖像進行分析，建立圖像特征矢量描述并存入圖像特征庫，當用戶輸入一張查詢圖像時，用相同的特征提取方法提取查詢圖像的特征得到查詢向量，然后在某種相似性度量準則下計算查詢向量到特征庫中各個特征的相似性大小，最后按相似性大小進行排序并順序輸出對應的圖片。

基于內容的圖像檢索技術將圖像內容的表達和相似性度量交給計算機進行自動的處理，大大提高了檢索的效率，從而為海量圖像庫的檢索開啟了新的大門。不過，其缺點也是存在的，主要表現為特征描述與高層語義之間存在著難以填補的語義鴻溝，并且這種語義鴻溝是不可消除的。之后，人們將卷積神經網絡應用于圖像檢索以解決語義鴻溝的問題，將利用神經網絡提取的特征作為用于檢索的圖像特征，相比傳統機器學習算法需要人工設計特征，卷積神經網絡模型可以利用梯度下降算法實現特征學習，降低了模型設計難度，提高了模型的性能。卷積神經網絡由于優化算法的限制，往往會存在一定的過擬合問題。這將影響圖像特征的提取效果，而從最終影響圖像檢索的準確性。

針對過擬合問題，除了Dropout、批標準化Batch Normalization等方法，還存在一些改變網絡結構來實現正則化的方法。如2015年發表在CVPR會議上的論文《Going deeperwith convolutions》提出利用輔助分類器實現向淺層的梯度傳播，并存在的正則化效果。另外，2017年發表在ICLR會議上的論文《FractalNet:Ultra-Deep Neural Networkswithout Residuals》通過在訓練時隨機地刪除部分網絡結構的方式來實現正則化。

發明內容

本發明所要解決的技術問題是，提供一種在不增加推理代價的情況下改進卷積神經網絡結構解決過擬合問題，從而提高圖像檢索準確性的方法。

本發明為解決上述技術問題所采用的技術方案是，一種基于卷積神經網絡正則化處理的圖像檢索方法，包括以下步驟：

1)神經網絡訓練步驟：

1-1)將卷積神經網絡結構表示為有向無環的二部圖；卷積神經網絡中輸入、輸出各子網絡的每個張量構成二部圖的集合Y中各節點，每個子網絡構成二部圖的集合X中各節點，二部圖中各節點按從輸入層到輸出層方向的先后順序進行連接；所述子網絡為神經網絡中各運算單元或相連的運算單元的集合；

1-2)設置選定節點數量M、每個節點對應的圖結構拓展次數N_m；從隱藏層中選出M個選定節點；所述隱藏層為各子網絡的輸出張量；

1-3)按從靠近輸出層向靠近輸入層的方向順序確定還未進行拓展的一個選定節點，將該選定節點之后的圖結構進行N_m次拓展；再判斷是否還有未進行拓展的選定節點，如是，則返回步驟1-3)，如否，對應拓展后圖結構生成基于結構拓展的卷積神經網絡后，進入步驟1-4)；

1-4)將訓練集中的圖像輸入與基于結構拓展的卷積神經網絡，完成訓練后，刪除所有拓展部分的網絡結構和對應的訓練得到的權重，僅保留原始卷積神經網絡結構以及對應的訓練得到的權重作為訓練好的卷積神經網絡；

2)圖像檢索步驟：

2-1)將待檢索圖像輸入至訓練好的卷積神經網絡中，從原始卷積神經網絡結構中隱藏層得到待檢索圖像特征；