[發明專利]一種用于深度學習的多層遞階式神經網絡架構系統

在審

• 申請號: 202010627432.0
• 申請日: 2020-07-02
• 公開（公告）號: CN111860620A
• 公開（公告）日: 2020-10-30
• 發明（設計）人: 黃西士;呂越峰;張劍
• 申請（專利權）人: 蘇州富鑫林光電科技有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 蘇州市中南偉業知識產權代理事務所(普通合伙) 32257
• 代理人: 吳竹慧

本發明涉及深度學習技術的技術領域，特別是涉及一種用于深度學習的多層遞階式神經網絡架構系統，其在更深的維度，也就是針對檢測領域的特點，在深度學習的模型改進方面提出了有效的辦法，發明了創新性的整體神經網路架構系統來應對具有復雜特征和相似特征的各種不同類型的復雜缺陷，并能進行檢測分類，同時降低了各個模塊的設計需求，簡化了模塊模型，因此極大地降低了學習訓練難度，并且易于優化和選取超參數；一種用于深度學習的多層遞階式神經網絡架構系統包括三個模塊：上層模塊、下層模塊和聚合模塊。

技術領域

本發明涉及深度學習技術的技術領域，特別是涉及一種用于深度學習的多層遞階式神經網絡架構系統。

背景技術

隨著并行計算的突飛猛進，深度學習技術在近年得到了長足發展，通過卷積神經網絡的創新應用，在圖像識別方面已經得到了廣泛的應用，尤其是基于數據的分類應用，或者稱為監督式的學習應用，在已知數據分類結果的前提下，根據預先數據的分類結果來生成數據模型，通過調整模型的參數及權重值，來得到所預先定義的模型分類結果。深度學習在包括目標識別、圖像分割、圖像生成等多個方面得到廣泛應用。在深度學習中，訓練數據的收集，訓練數據的質量和數量，不同深度學習模型結構對數據的需求是決定深度學習模型精度的主要因素。在工業檢測領域，深度學習應用主要目的是識別成品及半成品的瑕疵，經常面對的是復雜背景下的具備相似特征的缺陷，這使得背景和缺陷很難簡單區分開，這需要面對兩個層面的不確定性，一個是復雜背景的不確定性，一個是相似特征缺陷的不確定性。目前常用的深度學習分類方法沒有針對復雜背景下相似特征缺陷的特定辦法，因此針對檢測領域的深度學習模型優化是檢測領域的迫切需求。

發明內容

為解決上述技術問題，本發明提供一種在更深的維度，也就是針對檢測領域的特點，在深度學習的模型改進方面提出了有效的辦法，發明了創新性的整體神經網路架構系統來應對具有復雜特征和相似特征的各種不同類型的復雜缺陷，并能進行檢測分類，同時降低了各個模塊的設計需求，簡化了模塊模型，因此極大地降低了學習訓練難度，并且易于優化和選取超參數的用于深度學習的多層遞階式神經網絡架構系統。

本發明的一種用于深度學習的多層遞階式神經網絡架構系統，包括：

上層模塊:通過利用顯著的更全局的信息特征實現粗粒度的檢測和分類，將所有輸入數據分成多組不同的大類，并將檢測結果輸出；

下層模塊:下層模塊對應上層模塊中劃分成的一個大類，即不同的下層模塊對應不同的大類，每個下層模塊的主要目標是針對相應的大類再進一步進行精細粒度的檢測和分類，精確劃分為不同的具體準確類別，并將檢測結果輸出；

聚合模塊：對所有的上層模塊和下層模塊的檢測輸出結果進行接收、匯總并輸出最終檢測類別，最終輸出類別來自任何一個上層模塊或者下層模塊的檢測輸出，通過聚合多種不同層次不同功能模塊上的互補特征及其決策來獲得性能增益。

本發明的一種用于深度學習的多層遞階式神經網絡架構系統，還包括：

其中在上層模塊中允許某種程度相似特征類別的錯誤分類，可以有效地過濾掉精細分類所需要的非常詳細的局部信息,而不會顯著影響粗粒度的檢測結果。

本發明的一種用于深度學習的多層遞階式神經網絡架構系統，還包括：

其中下層模塊針對特征相似的不同缺陷類型并且類別數量少，通過提取和充分利用每種類似缺陷的所特有的更多、更詳細、更精確的局部信息特征實現針對特定表征的定向強化，并且對進行檢測分類，并且獲得檢測結果。

本發明的一種用于深度學習的多層遞階式神經網絡架構系統，還包括：

精度調節模塊，通過數據線與上層模塊和下層模塊進行數據連接，用于修改上層模塊和下層模塊的檢測精度。

本發明的一種用于深度學習的多層遞階式神經網絡架構系統，還包括：