[發明專利]一種便捷卷積方法

在審

• 申請號: 202010791803.9
• 申請日: 2020-08-10
• 公開（公告）號: CN111898695A
• 公開（公告）日: 2020-11-06
• 發明（設計）人: 盛建中;唐赫
• 申請（專利權）人: 武漢悟空游人工智能應用軟件有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發明屬于卷積神經網絡在計算機視覺中的應用研究領域，具體涉及一種便捷卷積方法，包括以下步驟：從MNIST數據集中獲取訓練集與測試集，其中訓練集包括60000個樣本，測試集包括10000個樣本，輸入尺寸為28*28，輸出尺寸為10，樣本大小為50；構建一個具有兩個完全連接層的二次卷積神經網絡，每個便捷卷積層之后是隨機池化層和ReLU層，第一個完全連接層的末尾是ReLU層，第二個完全連接層直接連接到softmax層，便捷卷積層和隨機池化層均由模式K來控制操作模式；本發明提出的便捷卷積池化技術僅需要常規卷積運算的25％；本發明能有效加快卷積的訓練和測試速度。

技術領域

本發明屬于卷積神經網絡在計算機視覺中的應用研究領域，具體涉及一種便捷卷積方法。

背景技術

卷積神經網絡(CNNs)是一種有前途的機器學習算法，在各種計算機視覺任務中可實現卓越的性能，例如圖像分類。這種成功的關鍵原因之一是它們的深層架構。實踐證明更深層次的架構可以提供更好的性能。因此，在過去幾年中CNN的性能主要通過設計更深入的體系結構得到了改進。神經網絡在其模型中具有大量參數的情況并不少見，因此需要花費更多的時間來訓練和測試網絡。

發明內容

由于神經網絡在模型中具有大量參數的情況并不少見，需要花費更多的時間來訓練和測試網絡。本發明提出了一種便捷卷積池化(ECP)方法，以加快訓練和測試速度。

一種便捷卷積方法，包括以下步驟：

從MNIST數據集中獲取訓練集與測試集，其中訓練集包括60000個樣本，測試集包括10000個樣本，輸入尺寸為28*28，輸出尺寸為10，樣本大小為50；

構建一個具有兩個完全連接層的二次卷積神經網絡，每個便捷卷積層之后是隨機池化層和ReLU層，第一個完全連接層的末尾是ReLU層，第二個完全連接層直接連接到softmax層，便捷卷積層和隨機池化層均由模式K來控制操作模式；

利用訓練集與測試集對構建的系統進行測試。

便捷卷積層和隨機池化層均由模式K來控制操作模式，包括：

隨機池化層模式K在池化之前被隨機設置，隨機池化層隨機選擇滑動窗口中四個像素中的一個像素來表示池化滑動窗口的輸出，當模式K為0時，每次都從滑動窗口中選擇第0個像素，選擇出第一個像素0元素后，將滑動窗口向右滑動兩步以獲得第二個像素0元素，直到挑選出全部的像素0元素，隨機池化層的輸出特征圖由這些像素0元素組成，當模式K為1、2、3時，對像素1、2、3元素執行相同的操作；

便捷卷積層使用與隨機池化層相同的模式K進行控制，窗口0是用于在池化層中生成用于池化窗口的選定像素0元素的選定窗口，每個窗口0是在模式0下輸入圖像上的滑動卷積窗口，這些卷積窗口的輸出是池化層中用于隨機池化所需的像素，第一個窗口0在合并窗口中生成第一個像素0，第二個窗口0在合并窗口中生成第二個像素0，卷積窗口在輸入圖像上滑動以產生卷積層的輸出特征，各種模式K確定各種窗口K，以生成合并窗口中所需的各種像素K元素，從左到右，從上到下滑動后，形成卷積層的特征圖；

利用從輸入圖像中提取到的數據進行卷積計算，卷積計算公式如下：

其中，x(m,n)表示輸入圖像的大小，W(u,v)是卷積濾波器的權重矩陣。

本發明的有益效果在于：

(1)本發明提出的便捷卷積池化技術僅需要常規卷積運算的25％；

(2)本發明能有效加快卷積的訓練和測試速度；

(3)本發明提出的新穎技術(ECP)可以轉移到支持Python的任何平臺。

附圖說明

圖1是ECP網絡的總體架構；