[發明專利]深度卷積神經網絡初始化和訓練方法、裝置、介質及設備

在審

• 申請號: 201911138266.1
• 申請日: 2019-11-20
• 公開（公告）號: CN112825121A
• 公開（公告）日: 2021-05-21
• 發明（設計）人: 周軍;丁松;王洋;江武明
• 申請（專利權）人: 北京眼神智能科技有限公司;北京眼神科技有限公司
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京恩赫律師事務所 11469
• 代理人: 劉守憲;李善學

1.一種深度卷積神經網絡初始化方法，其特征在于，所述方法包括：

獲取DCNN、與DCNN對應的簡易網絡和初始訓練集，所述初始訓練集包括多個類別的樣本，所述樣本上設置有表示該樣本類別的標簽；

使用初始訓練集訓練所述簡易網絡；

將初始訓練集的樣本輸入訓練好的簡易網絡，得到每個樣本在簡易網絡的特征層或分類層的輸出；

將初始訓練集中每個樣本的標簽替換為該樣本在簡易網絡的特征層或分類層的輸出，得到更新后的訓練集；

使用更新后的訓練集預訓練DCNN，完成DCNN的初始化。

2.根據權利要求1所述的深度卷積神經網絡初始化方法，其特征在于，使用初始訓練集訓練所述簡易網絡時，采用的是多分類交叉熵損失函數，使用更新后的訓練集預訓練DCNN時，采用的是歐幾里得損失函數。

3.根據權利要求1或2所述的深度卷積神經網絡初始化方法，其特征在于，所述DCNN和簡易網絡用于人臉識別，所述初始訓練集的樣本通過如下方法得到：

對人臉圖像進行人臉檢測和關鍵點定位，得到人臉區域和人臉關鍵點，所述人臉關鍵點包括左眼坐標和右眼坐標；

通過仿射變換將左眼坐標和右眼坐標對齊到指定坐標位置；

將人臉區域歸一化為指定的大小并進行灰度化，得到樣本；

為樣本設置表示該樣本類別的標簽。

4.一種深度卷積神經網絡初始化裝置，其特征在于，所述裝置包括：

獲取模塊，用于獲取DCNN、與DCNN對應的簡易網絡和初始訓練集，所述初始訓練集包括多個類別的樣本，所述樣本上設置有表示該樣本類別的標簽；

簡易網絡訓練模塊，用于使用初始訓練集訓練所述簡易網絡；

特征提取模塊，用于將初始訓練集的樣本輸入訓練好的簡易網絡，得到每個樣本在簡易網絡的特征層或分類層的輸出；

標簽替換模塊，用于將初始訓練集中每個樣本的標簽替換為該樣本在簡易網絡的特征層或分類層的輸出，得到更新后的訓練集；

初始化模塊，用于使用更新后的訓練集預訓練DCNN，完成DCNN的初始化。

5.根據權利要求4所述的深度卷積神經網絡初始化裝置，其特征在于，所述簡易網絡訓練模塊中，使用初始訓練集訓練所述簡易網絡時，采用的是多分類交叉熵損失函數，所述初始化模塊中，使用更新后的訓練集預訓練DCNN時，采用的是歐幾里得損失函數。

6.根據權利要求4或5所述的深度卷積神經網絡初始化裝置，其特征在于，所述DCNN和簡易網絡用于人臉識別，所述初始訓練集的樣本通過如下單元得到：

人臉檢測和關鍵點定位單元，用于對人臉圖像進行人臉檢測和關鍵點定位，得到人臉區域和人臉關鍵點，所述人臉關鍵點包括左眼坐標和右眼坐標；

對齊單元，用于通過仿射變換將左眼坐標和右眼坐標對齊到指定坐標位置；

歸一化和灰度化單元，用于將人臉區域歸一化為指定的大小并進行灰度化，得到樣本；

標簽設置單元，用于為樣本設置表示該樣本類別的標簽。

7.一種用于深度卷積神經網絡初始化的計算機可讀存儲介質，其特征在于，包括用于存儲處理器可執行指令的存儲器，所述指令被所述處理器執行時實現包括權利要求1-3任一所述深度卷積神經網絡初始化方法的步驟。

8.一種用于深度卷積神經網絡初始化的設備，其特征在于，包括至少一個處理器以及存儲計算機可執行指令的存儲器，所述處理器執行所述指令時實現權利要求1-3中任意一項所述深度卷積神經網絡初始化方法的步驟。

9.一種深度卷積神經網絡訓練方法，其特征在于，所述方法包括：

使用權利要求1-3任一所述的深度卷積神經網絡初始化方法對DCNN進行初始化；

使用所述初始訓練集訓練初始化后的DCNN。

10.一種深度卷積神經網絡訓練裝置，其特征在于，所述裝置包括：

初始化模塊，用于使用權利要求4-6任一所述的深度卷積神經網絡初始化裝置對DCNN進行初始化；

訓練模塊，用于使用所述初始訓練集訓練初始化后的DCNN。