[發明專利]一種用于神經網絡的訓練方法以及相關設備在審
| 申請號: | 202010680648.3 | 申請日: | 2020-07-15 |
| 公開(公告)號: | CN111950596A | 公開(公告)日: | 2020-11-17 |
| 發明(設計)人: | 葉翰嘉;洪藍青;楊擴 | 申請(專利權)人: | 華為技術有限公司 |
| 主分類號: | G06K9/62 | 分類號: | G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 深圳市深佳知識產權代理事務所(普通合伙) 44285 | 代理人: | 李杭 |
| 地址: | 518129 廣東*** | 國省代碼: | 廣東;44 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 一種 用于 神經網絡 訓練 方法 以及 相關 設備 | ||
1.一種神經網絡的訓練方法,其特征在于,所述方法包括:
從樣本集合中獲取第一樣本子集合,所述樣本集合包括M組支持樣本,所述第一樣本子集合包括第一支持樣本和第一查詢樣本;
將所述第一樣本子集合輸入至第一神經網絡,所述第一神經網絡生成所述第一查詢樣本的第一特征信息,并得到所述第一神經網絡輸出的與所述第一查詢樣本對應的第一預測結果,所述第一預測結果為根據所述第一支持樣本的特征信息和所述第一特征信息之間的相似度生成的;
根據與所述M組支持樣本對應的第二特征信息、與所述M組支持樣本對應的第一標注結果和所述第一查詢樣本的第一特征信息,生成與所述第一查詢樣本對應的第二預測結果,所述第一標注結果中的每一個均指示與所述M組支持樣本中一組支持樣本對應的正確結果;
根據第一損失函數和第二損失函數,對所述第一神經網絡進行訓練,直至滿足預設條件;
其中,所述第一損失函數指示所述第一預測結果和第二標注結果之間的相似度,所述第二損失函數指示所述第一預測結果與所述第二預測結果之間的相似度,或者,所述第二損失函數指示所述第二預測結果和所述第二標注結果之間的相似度,所述第二標注結果為所述第一查詢樣本的正確結果。
2.根據權利要求1所述的方法,其特征在于,所述將所述第一樣本子集合輸入至第一神經網絡之后,所述方法還包括:
通過所述第一神經網絡生成所述第一支持樣本的特征信息,所述第一支持樣本選自于第一組,所述第一組為所述M組中的一個組;
將所述第一支持樣本的特征信息添加至特征信息庫的第一隊列中,所述特征信息庫包括與所述M組支持樣本一一對應的M個隊列,所述第一隊列為所述M個隊列中與所述第一組對應的一個隊列,用于存儲與所述第一組的支持樣本對應的特征信息;
所述根據與所述M組支持樣本對應的第二特征信息、與所述M組支持樣本對應的第一標注結果和所述第一特征信息,生成與所述第一查詢樣本對應的第二預測結果之前,所述方法還包括:
根據所述特征信息庫,獲取與所述M組支持樣本對應的第二特征信息。
3.根據權利要求2所述的方法,其特征在于,第二隊列為所述M個隊列中任一隊列,所述第二隊列包括至少一個支持樣本的特征信息,所述根據所述特征信息庫,獲取與所述M組支持樣本對應的第二特征信息,包括:
對所述第二隊列包括的所有支持樣本的特征信息進行取平均值處理,得到與所述第二隊列對應的一個第二特征信息。
4.根據權利要求1所述的方法,其特征在于,所述根據與所述M組支持樣本對應的第二特征信息、與所述M組支持樣本對應的第一標注結果和所述第一特征信息,生成與所述第一查詢樣本對應的第二預測結果,包括:
根據所述第二特征信息和所述第一特征信息,執行相似度計算操作,得到第一相似度信息,所述第一相似度信息指示所述第一查詢樣本與所述M組支持樣本中每組支持樣本之間的相似度;
根據所述第一相似度信息和所述第一標注結果,生成所述第二預測結果。
5.根據權利要求1至4任一項所述的方法,其特征在于,所述第一神經網絡為對樣本進行分類的神經網絡,所述第一樣本子集合包括N類第一支持樣本,所述第一預測結果指示所述第一查詢樣本在所述N類中的預測類別;
所述根據與所述M組支持樣本對應的第二特征信息、與所述M組支持樣本對應的第一標注結果和所述第一查詢樣本的特征信息,生成與所述第一查詢樣本對應的第二預測結果,包括:
根據與所述M組支持樣本對應的第二特征信息、與所述M組支持樣本對應的第一標注結果和所述第一查詢樣本的特征信息,生成第一分類類別,所述第一分類類別指示所述第一查詢樣本在所述M類中的預測類別;
從所述第一分類類別中獲取所述第二預測結果,所述第二預測結果指示所述第一查詢樣本在所述N類中的預測類別。
6.根據權利要求1至4任一項所述的方法,其特征在于,所述第一神經網絡為對樣本進行回歸處理的神經網絡。
7.根據權利要求6所述的方法,其特征在于,所述M組的分組依據為以下中的一項或多項:與支持樣本對應的用戶、地點或時間。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于華為技術有限公司,未經華為技術有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202010680648.3/1.html,轉載請聲明來源鉆瓜專利網。





