[發(fā)明專利]用于配置神經(jīng)網(wǎng)絡模型的方法

在審

• 申請?zhí)枺?/td>: 202110308883.2
• 申請日: 2021-03-23
• 公開（公告）號: CN113449860A
• 公開（公告）日: 2021-09-28
• 發(fā)明（設(shè)計）人: B·蒂爾克;C·尼姆斯
• 申請（專利權(quán)）人: 大陸汽車有限責任公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04
• 代理公司: 北京市中咨律師事務所 11247
• 代理人: 萬軍偉;吳鵬

本發(fā)明涉及用于配置神經(jīng)網(wǎng)絡模型的一種計算機實現(xiàn)方法(100)，其中，所述方法包括以下步驟：提供(102)神經(jīng)網(wǎng)絡模型；將神經(jīng)網(wǎng)絡模型劃分(104)為第一部分和第二部分，第二部分包括用于對第一類型分類數(shù)據(jù)進行分類的第一頭部和用于對第二類型分類數(shù)據(jù)進行分類的第二頭部；在訓練階段，對第一部分中的第二類型分類數(shù)據(jù)進行預處理(106)，在第一頭部和第二頭部中對經(jīng)預處理的第二類型分類數(shù)據(jù)進行處理(108)，并確定在第一頭部中處理第一類型分類數(shù)據(jù)的第一結(jié)果和在第二頭部中處理第一類型分類數(shù)據(jù)的第二結(jié)果；計算(110)第一結(jié)果和第二結(jié)果之間的一致性；以及通過基于所計算的一致性更新第二頭部的至少一個參數(shù)值來配置(112)神經(jīng)網(wǎng)絡模型。

技術(shù)領(lǐng)域

本發(fā)明涉及用于配置神經(jīng)網(wǎng)絡模型的一種計算機實現(xiàn)方法，一種神經(jīng)網(wǎng)絡，用于配置神經(jīng)網(wǎng)絡模型的一種神經(jīng)網(wǎng)絡用途，一種計算機程序單元以及一種計算機可讀介質(zhì)。

背景技術(shù)

域自適應是機器學習的一個領(lǐng)域，它旨在利用被稱為源域的給定域的知識，其中，將所述知識遷移到被稱為目標域的另一域中。這是所謂遷移學習的一種特殊情況，其中，對兩個域的給定任務是相同的，但與源數(shù)據(jù)集相比，目標數(shù)據(jù)集可能包含分布偏移。該問題的一個例子是例如車輛周圍環(huán)境白天和夜間圖像的目標識別。

源域和目標域中的常見學習方法是，嘗試修改數(shù)據(jù)的內(nèi)部表示，從而使它們對兩個域都盡可能相似。使用該方法的結(jié)果是，目標標簽和源標簽被均勻混合。該方法也稱為樸素混合。但是，目標標簽和源標簽的樸素混合會有問題，因為在訓練過程中，所述樸素混合不會向網(wǎng)絡表明目標比源更重要。例如由于某些限制，每當必須選擇應記住其標簽模式的指定網(wǎng)絡時，它無法對目標標簽模式進行優(yōu)先排序。在有多個源標簽可供使用的極端情況下，這會嚴重影響目標的準確性。

發(fā)明內(nèi)容

因此，要求提高遷移學習中的準確性。

該項任務通過所附獨立權(quán)利要求的主題解決。從屬權(quán)利要求和以下描述及附圖提供了實施方式。

所述實施方式類似地涉及配置神經(jīng)網(wǎng)絡模型方法、用于配置神經(jīng)網(wǎng)絡模型的系統(tǒng)、計算機程序單元和計算機可讀存儲器。盡管可能沒詳細描述，但協(xié)同效果可由實施方式的不同組合產(chǎn)生。

此外必須注意的是，本發(fā)明的所有實施方式涉及一種可以所述步驟順序?qū)嵤┑姆椒ǎ欢@不一定是所述方法唯一的和必要的步驟順序。只要下文中沒有其他明確的說明，可在不脫離各相應方法實施方式的情況下，以一種不同于所公布步驟順序的其他順序執(zhí)行本文所述方法。

技術(shù)術(shù)語是按其常識使用的。如果特定術(shù)語表達一特定意義，則在以下使用術(shù)語的語境中給出術(shù)語的定義。

根據(jù)一第一觀點，提供一種用于在一神經(jīng)網(wǎng)絡中對一第二類型分類數(shù)據(jù)進行分類的計算機實現(xiàn)方法。該方法包括以下步驟。在一第一步驟中，提供一神經(jīng)網(wǎng)絡模型。所述神經(jīng)網(wǎng)絡模型被分為一第一部分和一第二部分，其中，第二部分包括用于對一第一類型分類數(shù)據(jù)進行分類的一第一頭部和用于對第二類型分類數(shù)據(jù)進行分類的一第二頭部。在一訓練階段中，在第一部分中對第一類型分類數(shù)據(jù)進行預處理。然后，在第一頭部和第二頭部中處理這類經(jīng)預處理的第二類型分類數(shù)據(jù)，并確定在第一頭部中第二類型分類數(shù)據(jù)處理的一第一結(jié)果，以及在第二頭部中確定第二類型分類數(shù)據(jù)處理的一第二結(jié)果。

在一進一步的步驟中，計算第一結(jié)果和第二結(jié)果之間的一致性，并基于神經(jīng)網(wǎng)絡更新和所計算的一致性，通過第二頭部的至少一個參數(shù)值和第一頭部的至少一個參數(shù)值對神經(jīng)網(wǎng)絡模型進行配置。

本方法旨在使用關(guān)于一第一類型分類數(shù)據(jù)分類的神經(jīng)網(wǎng)絡知識對一第二類型分類數(shù)據(jù)進行分類。在本申請中，利用一神經(jīng)網(wǎng)絡解釋本發(fā)明，它可使用任何可被分為一第一部分和一第二部分的人工智能模塊。因此，術(shù)語“神經(jīng)網(wǎng)絡”意為用于人工智能的這樣一種模塊。