[發(fā)明專利]用于訓(xùn)練用于圖像分析的神經(jīng)網(wǎng)絡(luò)的設(shè)備和方法

在審

• 申請?zhí)枺?/td>: 202211077499.7
• 申請日: 2022-09-05
• 公開（公告）號: CN115797992A
• 公開（公告）日: 2023-03-14
• 發(fā)明（設(shè)計）人: D·波托茨基
• 申請（專利權(quán)）人: 羅伯特·博世有限公司
• 主分類號: G06V40/16
• 分類號: G06V40/16;G06V10/44;G06V10/764;G06V10/766;G06V10/82;G06N3/0464;G06N3/08
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 劉藝詩;劉春元

提供了用于訓(xùn)練用于圖像分析的神經(jīng)網(wǎng)絡(luò)的設(shè)備和方法，其中神經(jīng)網(wǎng)絡(luò)（70）被配置用于圖像分析，并且其中訓(xùn)練包括步驟：由神經(jīng)網(wǎng)絡(luò)（70）基于第一變換圖像（x_a1）確定第一特征圖（f₁），其中基于訓(xùn)練圖像（x_i）的第一變換確定第一變換圖像（x_a1）；由神經(jīng)網(wǎng)絡(luò)（70）基于第二變換圖像（x_a2）確定第二特征圖（f₂），其中基于訓(xùn)練圖像（x_i）的第二變換確定第二變換圖像（x_a2）；確定表征第一特征圖（f₁）的第一特征向量與第二特征圖（f₂）的第二特征向量的加權(quán)和之間的度量的第一損失值，其中根據(jù)由第一特征向量表征的訓(xùn)練圖像（x_i）部分相對于由相應(yīng)的第二特征向量表征的訓(xùn)練圖像（x_i）部分的重疊來確定加權(quán)和的權(quán)重；基于第一損失值訓(xùn)練神經(jīng)網(wǎng)絡(luò)（70）。

技術(shù)領(lǐng)域

Chen和He的“Exploring Simple Siamese Representation Learning”（2020年11月20日https://arxiv.org/abs/2011.10566v1）公開了一種用于無監(jiān)督學(xué)習(xí)的SimSiam神經(jīng)網(wǎng)絡(luò)。

背景技術(shù)

用于圖像分析的神經(jīng)網(wǎng)絡(luò)在幾乎所有技術(shù)領(lǐng)域中都發(fā)現(xiàn)各種應(yīng)用。尤其是深度神經(jīng)網(wǎng)絡(luò)實現(xiàn)通常優(yōu)于其他基于機(jī)器學(xué)習(xí)的方法的預(yù)測性能。

然而，訓(xùn)練神經(jīng)網(wǎng)絡(luò)（尤其是深度神經(jīng)網(wǎng)絡(luò)）以實現(xiàn)這樣的優(yōu)越性能以需要大量的帶注釋的訓(xùn)練圖像為代價，利用所述帶注釋的圖像可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)。注釋這樣的訓(xùn)練圖像是耗時且昂貴的努力。

因此，常見的方法是在自監(jiān)督學(xué)習(xí)方法中用未標(biāo)注的訓(xùn)練數(shù)據(jù)預(yù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)。該預(yù)訓(xùn)練允許減少帶注釋圖像的必要數(shù)量，同時仍然能夠?qū)崿F(xiàn)高預(yù)測性能。

用于自監(jiān)督學(xué)習(xí)的一類已知模型是SimSiam神經(jīng)網(wǎng)絡(luò)。為了訓(xùn)練SimSiam神經(jīng)網(wǎng)絡(luò)，確定用于圖像的兩個變換的相應(yīng)特征表示，并且訓(xùn)練SimSiam神經(jīng)網(wǎng)絡(luò)以確定用于兩個變換的類似輸出。

然而，發(fā)明人發(fā)現(xiàn)，當(dāng)神經(jīng)網(wǎng)絡(luò)的下游任務(wù)是對對象進(jìn)行分類或執(zhí)行語義分割時，SimSiam方法是次優(yōu)的，因為SimSiam網(wǎng)絡(luò)被配置為確定整個圖像的全局特征表示。

發(fā)明內(nèi)容

在給定該背景的情況下，本發(fā)明在第一方面涉及一種用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的計算機(jī)實現(xiàn)的方法，其中神經(jīng)網(wǎng)絡(luò)被配置用于圖像分析，并且其中訓(xùn)練包括以下步驟：

·由神經(jīng)網(wǎng)絡(luò)基于第一變換圖像確定第一特征圖，其中基于訓(xùn)練圖像的第一變換確定第一變換圖像；

·由神經(jīng)網(wǎng)絡(luò)基于第二變換圖像確定第二特征圖，其中基于訓(xùn)練圖像的第二變換確定第二變換圖像；

·確定表征第一特征圖的第一特征向量與第二特征圖的第二特征向量的加權(quán)和之間的度量的第一損失值，其中根據(jù)由第一特征向量表征的訓(xùn)練圖像部分相對于由相應(yīng)的第二特征向量表征的訓(xùn)練圖像部分的重疊來確定加權(quán)和的權(quán)重；

·基于第一損失值訓(xùn)練神經(jīng)網(wǎng)絡(luò)。

神經(jīng)網(wǎng)絡(luò)可以被理解為一種數(shù)據(jù)處理設(shè)備，其將表征圖像的輸入信號取作輸入，并確定表征圖像分析的輸出信號。