[發(fā)明專利]用于使用跨域批量歸一化進(jìn)行神經(jīng)網(wǎng)絡(luò)中的域適配的系統(tǒng)和方法

在審

• 申請?zhí)枺?/td>: 201980072165.0
• 申請日: 2019-07-12
• 公開（公告）號: CN112955913A
• 公開（公告）日: 2021-06-11
• 發(fā)明（設(shè)計(jì)）人: R.陳;M-H.陳;J.俞;X.劉
• 申請（專利權(quán)）人: 索尼互動娛樂股份有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N3/02
• 代理公司: 北京市柳沈律師事務(wù)所 11105
• 代理人: 張曉明

1.一種設(shè)備，其包括：

至少一個(gè)處理器；以及

至少一個(gè)計(jì)算機(jī)存儲裝置，其不是瞬時(shí)信號并且包括指令，所述指令能夠由所述至少一個(gè)處理器執(zhí)行以：

訪問第一神經(jīng)網(wǎng)絡(luò)，所述第一神經(jīng)網(wǎng)絡(luò)與第一數(shù)據(jù)類型相關(guān)聯(lián)；

訪問第二神經(jīng)網(wǎng)絡(luò)，所述第二神經(jīng)網(wǎng)絡(luò)與不同于所述第一數(shù)據(jù)類型的第二數(shù)據(jù)類型相關(guān)聯(lián)；

將第一訓(xùn)練數(shù)據(jù)作為輸入提供給所述第一神經(jīng)網(wǎng)絡(luò)；

將第二訓(xùn)練數(shù)據(jù)作為輸入提供給所述第二神經(jīng)網(wǎng)絡(luò)，所述第一訓(xùn)練數(shù)據(jù)不同于所述第二訓(xùn)練數(shù)據(jù)；

識別來自所述第一神經(jīng)網(wǎng)絡(luò)的中間層的第一輸出，所述第一輸出是基于所述第一訓(xùn)練數(shù)據(jù)；

識別來自所述第二神經(jīng)網(wǎng)絡(luò)的中間層的第二輸出，所述第二輸出是基于所述第二訓(xùn)練數(shù)據(jù)，所述第一神經(jīng)網(wǎng)絡(luò)和所述第二神經(jīng)網(wǎng)絡(luò)的所述相應(yīng)中間層是平行的層；

識別用于對所述第一輸出和所述第二輸出進(jìn)行歸一化的比率；

應(yīng)用將所述比率考慮在內(nèi)的方程式來改變所述第二神經(jīng)網(wǎng)絡(luò)的所述中間層的一個(gè)或多個(gè)權(quán)重。

2.根據(jù)權(quán)利要求1所述的設(shè)備，其中所述比率與平均值有關(guān)。

3.根據(jù)權(quán)利要求1所述的設(shè)備，其中對所述第一輸出與所述第二輸出之間的均值和方差兩者進(jìn)行分析以應(yīng)用所述方程式。

4.根據(jù)權(quán)利要求1所述的設(shè)備，其中使用跨域批量歸一化(CDBN)來識別所述比率并且應(yīng)用所述方程式。

5.根據(jù)權(quán)利要求1所述的設(shè)備，其中在將所述第二訓(xùn)練數(shù)據(jù)提供給所述第二神經(jīng)網(wǎng)絡(luò)之前，通過所述第一神經(jīng)網(wǎng)絡(luò)的副本建立所述第二神經(jīng)網(wǎng)絡(luò)。

6.根據(jù)權(quán)利要求1所述的設(shè)備，其中所述第一神經(jīng)網(wǎng)絡(luò)和所述第二神經(jīng)網(wǎng)絡(luò)的所述中間層是除輸出層之外的層。

7.根據(jù)權(quán)利要求1所述的設(shè)備，其中所述第一訓(xùn)練數(shù)據(jù)與所述第二訓(xùn)練數(shù)據(jù)相關(guān)，其中所述第一神經(jīng)網(wǎng)絡(luò)和所述第二神經(jīng)網(wǎng)絡(luò)與動作識別有關(guān)，并且其中所述第一訓(xùn)練數(shù)據(jù)與所述第二訓(xùn)練數(shù)據(jù)相關(guān)，因?yàn)樗龅谝挥?xùn)練數(shù)據(jù)和所述第二訓(xùn)練數(shù)據(jù)兩者都與同一動作有關(guān)。

8.根據(jù)權(quán)利要求1所述的設(shè)備，其中所述第一訓(xùn)練數(shù)據(jù)與所述第二訓(xùn)練數(shù)據(jù)相關(guān)，其中所述第一神經(jīng)網(wǎng)絡(luò)和所述第二神經(jīng)網(wǎng)絡(luò)與對象識別有關(guān)，并且其中所述第一訓(xùn)練數(shù)據(jù)與所述第二訓(xùn)練數(shù)據(jù)相關(guān)，因?yàn)樗龅谝挥?xùn)練數(shù)據(jù)和所述第二訓(xùn)練數(shù)據(jù)兩者都與同一對象有關(guān)。

9.一種方法，其包括：

訪問第一神經(jīng)網(wǎng)絡(luò)，所述第一神經(jīng)網(wǎng)絡(luò)與第一數(shù)據(jù)類型相關(guān)聯(lián)；

訪問第二神經(jīng)網(wǎng)絡(luò)，所述第二神經(jīng)網(wǎng)絡(luò)與不同于所述第一數(shù)據(jù)類型的第二數(shù)據(jù)類型相關(guān)聯(lián)；

將第一訓(xùn)練數(shù)據(jù)作為輸入提供給所述第一神經(jīng)網(wǎng)絡(luò)；

將第二訓(xùn)練數(shù)據(jù)作為輸入提供給所述第二神經(jīng)網(wǎng)絡(luò)，所述第一訓(xùn)練數(shù)據(jù)不同于所述第二訓(xùn)練數(shù)據(jù)；

識別來自所述第一神經(jīng)網(wǎng)絡(luò)的隱藏層的第一輸出，所述第一輸出是基于所述第一訓(xùn)練數(shù)據(jù)；

識別來自所述第二神經(jīng)網(wǎng)絡(luò)的隱藏層的第二輸出，所述第二輸出是基于所述第二訓(xùn)練數(shù)據(jù)，所述第一神經(jīng)網(wǎng)絡(luò)和所述第二神經(jīng)網(wǎng)絡(luò)的所述相應(yīng)隱藏層是平行的層；

識別用于對所述第一輸出和所述第二輸出進(jìn)行歸一化的比率；

將所述比率應(yīng)用于來自所述第二神經(jīng)網(wǎng)絡(luò)的所述隱藏層的輸出，以對來自所述第二神經(jīng)網(wǎng)絡(luò)的所述隱藏層的所述輸出進(jìn)行歸一化。

10.根據(jù)權(quán)利要求9所述的方法，其中所述比率與平均值有關(guān)。

11.根據(jù)權(quán)利要求9所述的方法，其中所述識別和應(yīng)用步驟是使用跨域批量歸一化(CDBN)模塊執(zhí)行的。