[發明專利]神經網絡的訓練方法、數據獲取方法和裝置在審
| 申請號: | 202010594053.6 | 申請日: | 2020-06-24 |
| 公開(公告)號: | CN111898635A | 公開(公告)日: | 2020-11-06 |
| 發明(設計)人: | 韓亞洪;姜品;武阿明;邵云峰;齊美玉;李秉帥 | 申請(專利權)人: | 華為技術有限公司 |
| 主分類號: | G06K9/62 | 分類號: | G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 暫無信息 | 代理人: | 暫無信息 |
| 地址: | 518129 廣東*** | 國省代碼: | 廣東;44 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 神經網絡 訓練 方法 數據 獲取 裝置 | ||
1.一種神經網絡的訓練方法,其特征在于,包括:
獲取訓練數據;
使用所述訓練數據對神經網絡進行訓練,使得所述神經網絡從所述訓練數據中學習分解域不變特征和域特定特征;
其中,所述域特定特征為表征所述訓練數據所屬的領域的特征,所述域不變特征為與所述訓練數據所屬領域無關的特征。
2.根據權利要求1所述的方法,其特征在于,所述使用所述訓練數據對神經網絡進行訓練包括:
從所述訓練數據的特征中分解出域不變特征和域特定特征;
使用所述域不變特征執行任務,得到任務損失,并計算所述域不變特征和所述域特定特征之間的互信息損失,所述任務損失用于表征使用所述域不變特征執行任務所得到的結果與任務標簽之間的差距,所述互信息損失用于表示所述域不變特征和所述域特定特征之間的差異;
根據所述任務損失和所述互信息損失,訓練所述神經網絡。
3.根據權利要求2所述的方法,其特征在于,還包括:
使用所述域特定特征進行域分類,得到域分類損失;
其中,所述根據所述任務損失和所述互信息損失,訓練所述神經網絡,包括:
根據所述任務損失、所述互信息損失和所述域分類損失訓練所述神經網絡。
4.根據權利要求2或3所述的方法,其特征在于,所述從所述訓練數據的特征中分解出域不變特征和域特定特征,包括:
從所述訓練數據中提取初始特征;
將所述初始特征分解成所述域不變特征和所述域特定特征,
其中,所述方法,還包括:
訓練所述神經網絡,以減小所述初始特征所包含的信息與所述域不變特征和所述域特定特征共同包含的信息之間的差異。
5.根據權利要求4所述的方法,其特征在于,在所述訓練所述神經網絡,以減小所述初始特征所包含的信息與所述域不變特征和所述域特定特征共同包含的信息之間的差異之前,還包括:
使用所述域不變特征和所述域特定特征對所述初始特征進行重建,得到重建特征;
比較所述初始特征和所述重建特征,以確定所述初始特征所包含的信息與所述域不變特征和所述域特定特征共同包含的信息之間的差異。
6.根據權利要求2所述的方法,其特征在于,還包括:
使用所述域不變特征和所述域特定特征對初始特征進行重建,得到重建特征,其中所述域不變特征和所述域特定特征是從所述初始特征中分解出的特征;
比較所述初始特征和所述重建特征以獲取重建損失,所述重建損失用于表征所述初始特征所包含的信息與所述域不變特征和所述域特定特征共同包含的信息之間的差異,
其中,所述根據所述任務損失和所述互信息損失,訓練所述神經網絡,包括:
根據所述任務損失,對所述神經網絡進行第一階段的訓練;
根據所述互信息損失,對所述神經網絡進行第二階段的訓練,
其中,所述方法還包括:
根據所述重建損失,對所述神經網絡進行第三階段的訓練。
7.根據權利要求2或3所述的方法,其特征在于,所述神經網絡包括第一解耦器和第二解耦器,所述從所述訓練數據的特征中分解出域不變特征和域特定特征,包括:
從所述訓練數據中提取所述訓練數據的第一特征;
采用所述第一解耦器從所述第一特征中提取初步域不變特征和初步域特定特征;
將所述初步域不變特征與所述第一特征融合,得到第二特征;
從所述第二特征中提取所述訓練數據的第三特征;
采用第二解耦器從所述第三特征中提取所述域不變特征和所述域特定特征。
8.根據權利要求7所述的方法,其特征在于,還包括:
訓練所述神經網絡,以減小所述第三特征所包含的信息與所述域不變特征和所述域特定特征共同所包含的信息之間的差異。
9.根據權利要求1至8中的任一項所述的方法,其特征在于,所述神經網絡用于進行域自適應學習,所述訓練數據包括不同領域的圖像數據。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于華為技術有限公司,未經華為技術有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202010594053.6/1.html,轉載請聲明來源鉆瓜專利網。
- 數據顯示系統、數據中繼設備、數據中繼方法、數據系統、接收設備和數據讀取方法
- 數據記錄方法、數據記錄裝置、數據記錄媒體、數據重播方法和數據重播裝置
- 數據發送方法、數據發送系統、數據發送裝置以及數據結構
- 數據顯示系統、數據中繼設備、數據中繼方法及數據系統
- 數據嵌入裝置、數據嵌入方法、數據提取裝置及數據提取方法
- 數據管理裝置、數據編輯裝置、數據閱覽裝置、數據管理方法、數據編輯方法以及數據閱覽方法
- 數據發送和數據接收設備、數據發送和數據接收方法
- 數據發送裝置、數據接收裝置、數據收發系統、數據發送方法、數據接收方法和數據收發方法
- 數據發送方法、數據再現方法、數據發送裝置及數據再現裝置
- 數據發送方法、數據再現方法、數據發送裝置及數據再現裝置





