[發明專利]用于辨識裝置的人工神經網絡正規化系統

有效

• 申請號: 201910376478.7
• 申請日: 2019-05-07
• 公開（公告）號: CN111914984B
• 公開（公告）日: 2023-10-27
• 發明（設計）人: 劉子瑄;謝明得
• 申請（專利權）人: 財團法人成大研究發展基金會;奇景光電股份有限公司
• 主分類號: G06N3/0464
• 分類號: G06N3/0464;G06N3/08;G06V10/764;G06V10/82
• 代理公司: 北京中原華和知識產權代理有限責任公司 11019
• 代理人: 壽寧;張琳

本發明公開了一種用于辨識裝置的人工神經網絡正規化系統，包含輸入層，產生影像的初始特征圖；多個隱藏層，對初始特征圖進行卷積以產生對象特征圖；匹配單元，其接收對象特征圖且執行匹配，以輸出辨識結果。第一推論區塊與第二推論區塊，設于人工神經網絡的至少一個隱藏層中。在第一模式，開啟第一推論區塊且關閉第二推論區塊，其中第一推論區塊僅接收前一層的第一推論區塊的輸出。在第二模式，開啟第一推論區塊與第二推論區塊，其中第二推論區塊接收前一層的第二推論區塊的輸出與前一層的第一推論區塊的輸出。

技術領域

本發明涉及一種人工神經網絡正規化系統，特別是涉及一種用于辨識裝置的人工神經網絡正規化系統或對象辨識架構。

背景技術

卷積神經網絡(convolutional neural network,CNN)是深層(deep)神經網絡的一種，其使用卷積層以過濾輸入，以得到有用信息。卷積層的濾波器可根據所學習參數進行修改，以萃取得到特定工作的最有用信息。卷積神經網絡普遍用于分類(classification)、偵測及辨識(recognition)，例如影像分類、醫學影像分析及影像/視訊辨識。然而，卷積神經網絡的推論(inference)需要大量的內存及運算。一般來說，卷積神經網絡的模型準確度越高，則架構越復雜(即，更多內存與運算)且功耗越大。

當低功率終端(end)裝置(例如全時傳感器(always-on-sensor,AOS))越發展，則低復雜度的卷積神經網絡的需求越大。然而，低復雜度的卷積神經網絡由于受到功率的限制，無法達到高復雜度的卷積神經網絡的高效能。受控于高效能的協處理器的全時傳感器，配合低復雜度的卷積神經網絡，可持續偵測簡單對象，直到主處理器配合高復雜度的卷積神經網絡被啟動為止。因此，系統需要儲存兩個卷積神經網絡模型(即，低復雜度模型與高復雜度模型)，因而需要更多高成本的靜態隨機存取內存(SRAM)裝置。

發明內容

鑒于上述，本發明實施例的目的之一在于提出一種人工神經網絡正規化系統，可支持多個模式以降低功耗。

本發明實施例提出一種用于辨識裝置的人工神經網絡正規化系統，包含輸入層、多個隱藏層及匹配單元。輸入層產生影像的初始特征圖。隱藏層對初始特征圖進行卷積以產生對象特征圖。匹配單元接收對象特征圖且執行匹配，以輸出辨識結果。第一推論區塊與第二推論區塊，設于人工神經網絡的至少一個隱藏層中。在第一模式，開啟第一推論區塊且關閉第二推論區塊，其中第一推論區塊僅接收前一層的第一推論區塊的輸出。在第二模式，開啟第一推論區塊與第二推論區塊，其中第二推論區塊接收前一層的第二推論區塊的輸出與前一層的第一推論區塊的輸出。

進一步地，在該第二模式，其中該第一推論區塊僅接收前一層的第一推論區塊的輸出。

進一步地，在該第二模式，其中該第一推論區塊接收前一層的第一推論區塊的輸出與前一層的第二推論區塊的輸出。

進一步地，用于辨識裝置的人工神經網絡正規化系統，還包含第三推論區塊，設于該至少一個隱藏層中，該第三推論區塊包含多個第三濾波器。

進一步地，該第三推論區塊在該第一模式與該第二模式時為關閉，且于第三模式時為開啟。

進一步地，該匹配單元包含臉部匹配單元，用以決定是否辨識出特定臉部。

本發明實施例的用于追蹤裝置的人工神經網絡正規化系統，能夠根據實際需求可操作于高精確模式或低功率模式，得以大量減少實施人工神經網絡所需的靜態隨機存取內存(SRAM)裝置，并且當人工神經網絡正規化系統在操作于低功率模式時，能夠有效地降低消耗。

附圖說明

圖1示出了本發明實施例的用于辨識裝置的卷積神經網絡(CNN)正規化系統的示意圖；

圖2示出了本發明一實施例的多階段訓練方法的流程圖，可使用于圖1所示的卷積神經網絡正規化系統；