[發(fā)明專利]與基于捕獲物體的圖像并且基于用于環(huán)境中的未來(lái)機(jī)器人運(yùn)動(dòng)的參數(shù)來(lái)預(yù)測(cè)機(jī)器人環(huán)境中的物體運(yùn)動(dòng)有關(guān)的機(jī)器學(xué)習(xí)方法和裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 201780031172.7
• 申請(qǐng)日: 2017-05-16
• 公開(kāi)（公告）號(hào): CN109153123B
• 公開(kāi)（公告）日: 2022-04-26
• 發(fā)明（設(shè)計(jì)）人: S.萊文;C.芬恩;I.古德費(fèi)洛
• 申請(qǐng)（專利權(quán)）人: 谷歌有限責(zé)任公司
• 主分類號(hào): B25J9/16
• 分類號(hào): B25J9/16;G05B13/02
• 代理公司: 北京市柳沈律師事務(wù)所 11105
• 代理人: 邵亞麗;王冉

1.一種基于捕獲的圖像和機(jī)器人運(yùn)動(dòng)參數(shù)控制機(jī)器人執(zhí)行候選運(yùn)動(dòng)的由一個(gè)或多個(gè)處理器實(shí)施的方法，包括：

生成候選機(jī)器人運(yùn)動(dòng)參數(shù)，所述候選機(jī)器人運(yùn)動(dòng)參數(shù)定義可由機(jī)器人的一個(gè)或多個(gè)部件在機(jī)器人的環(huán)境中執(zhí)行的候選運(yùn)動(dòng)的至少一部分；

識(shí)別由與機(jī)器人相關(guān)的視覺(jué)傳感器捕獲的當(dāng)前圖像，所述當(dāng)前圖像捕獲機(jī)器人的環(huán)境的至少一部分；

采用動(dòng)作條件運(yùn)動(dòng)預(yù)測(cè)模型，將所述當(dāng)前圖像和候選機(jī)器人運(yùn)動(dòng)參數(shù)作為輸入應(yīng)用于訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，所述動(dòng)作條件運(yùn)動(dòng)預(yù)測(cè)模型通過(guò)預(yù)測(cè)來(lái)自先前幀的像素運(yùn)動(dòng)的分布來(lái)顯示建模像素運(yùn)動(dòng)；

生成所述當(dāng)前圖像的至少一個(gè)預(yù)測(cè)變換，基于將所述當(dāng)前圖像和候選機(jī)器人運(yùn)動(dòng)參數(shù)應(yīng)用于訓(xùn)練的神經(jīng)網(wǎng)絡(luò)來(lái)生成所述預(yù)測(cè)變換；

基于所述至少一個(gè)預(yù)測(cè)變換來(lái)變換所述當(dāng)前圖像以生成至少一個(gè)預(yù)測(cè)圖像，如果候選運(yùn)動(dòng)的至少一部分由機(jī)器人的部件在環(huán)境中執(zhí)行，則所述預(yù)測(cè)圖像預(yù)測(cè)機(jī)器人的環(huán)境的部分；

基于所述預(yù)測(cè)圖像，確定執(zhí)行所述候選運(yùn)動(dòng)；和

向機(jī)器人的一個(gè)或多個(gè)致動(dòng)器提供一個(gè)或多個(gè)控制命令以執(zhí)行所述候選運(yùn)動(dòng)。

2.根據(jù)權(quán)利要求1所述的方法，還包括：

基于將所述當(dāng)前圖像和候選機(jī)器人運(yùn)動(dòng)參數(shù)應(yīng)用于訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，生成至少一個(gè)合成掩模；

其中，變換所述當(dāng)前圖像還基于所述至少一個(gè)合成掩模。

3.根據(jù)權(quán)利要求2所述的方法，其中，所述至少一個(gè)預(yù)測(cè)變換包括多個(gè)預(yù)測(cè)變換，其中，所述至少一個(gè)合成掩模包括多個(gè)合成掩模，并且其中，基于所述至少一個(gè)預(yù)測(cè)變換來(lái)變換所述當(dāng)前圖像以生成所述預(yù)測(cè)圖像包括：

基于所述多個(gè)預(yù)測(cè)變換生成多個(gè)預(yù)測(cè)圖像；和

基于所述多個(gè)合成掩模合成預(yù)測(cè)圖像以生成所述預(yù)測(cè)圖像。

4.根據(jù)權(quán)利要求1所述的方法，還包括：

生成第二候選機(jī)器人運(yùn)動(dòng)參數(shù)，所述第二候選機(jī)器人運(yùn)動(dòng)參數(shù)定義可由所述部件中的一個(gè)或多個(gè)在環(huán)境中執(zhí)行的第二候選運(yùn)動(dòng)的至少一部分，所述第二候選運(yùn)動(dòng)可執(zhí)行以代替所述候選運(yùn)動(dòng)；

將所述當(dāng)前圖像和第二候選機(jī)器人運(yùn)動(dòng)參數(shù)作為輸入應(yīng)用于訓(xùn)練的神經(jīng)網(wǎng)絡(luò)；

生成所述當(dāng)前圖像的至少一個(gè)第二預(yù)測(cè)變換，基于將所述當(dāng)前圖像和第二候選機(jī)器人運(yùn)動(dòng)參數(shù)應(yīng)用于訓(xùn)練的神經(jīng)網(wǎng)絡(luò)來(lái)生成所述第二預(yù)測(cè)變換；

基于所述第二預(yù)測(cè)變換來(lái)變換所述當(dāng)前圖像的一個(gè)或多個(gè)像素以生成至少一個(gè)第二預(yù)測(cè)圖像，如果所述第二候選運(yùn)動(dòng)的至少一部分由機(jī)器人的部件在環(huán)境中執(zhí)行，則所述第二預(yù)測(cè)圖像預(yù)測(cè)機(jī)器人的環(huán)境的部分。

5.根據(jù)權(quán)利要求4所述的方法，還包括：

基于所述預(yù)測(cè)圖像和第二預(yù)測(cè)圖像，選擇所述候選運(yùn)動(dòng)或第二候選運(yùn)動(dòng)；和

向機(jī)器人的一個(gè)或多個(gè)致動(dòng)器提供一個(gè)或多個(gè)控制命令以執(zhí)行所述候選運(yùn)動(dòng)和第二候選運(yùn)動(dòng)中的所選擇的一個(gè)。

6.根據(jù)權(quán)利要求1所述的方法，還包括：

生成連續(xù)候選機(jī)器人運(yùn)動(dòng)參數(shù)，所述連續(xù)候選機(jī)器人運(yùn)動(dòng)參數(shù)定義在所述候選運(yùn)動(dòng)的所述部分之后的所述候選運(yùn)動(dòng)的另一部分；

將所述預(yù)測(cè)圖像和連續(xù)候選機(jī)器人運(yùn)動(dòng)參數(shù)應(yīng)用于訓(xùn)練的神經(jīng)網(wǎng)絡(luò)；

生成所述預(yù)測(cè)圖像的至少一個(gè)連續(xù)預(yù)測(cè)變換，基于將所述預(yù)測(cè)圖像和連續(xù)候選機(jī)器人運(yùn)動(dòng)參數(shù)應(yīng)用于訓(xùn)練的神經(jīng)網(wǎng)絡(luò)來(lái)生成所述連續(xù)預(yù)測(cè)變換；

基于所述連續(xù)預(yù)測(cè)變換來(lái)變換所述預(yù)測(cè)圖像以生成連續(xù)預(yù)測(cè)圖像。

7.根據(jù)權(quán)利要求6所述的方法，還包括：

基于所述預(yù)測(cè)圖像和連續(xù)預(yù)測(cè)圖像，確定執(zhí)行所述候選運(yùn)動(dòng)；和

向機(jī)器人的一個(gè)或多個(gè)致動(dòng)器提供一個(gè)或多個(gè)控制命令以執(zhí)行所述候選運(yùn)動(dòng)。

8.根據(jù)權(quán)利要求1所述的方法，其中，所述訓(xùn)練的神經(jīng)網(wǎng)絡(luò)包括多個(gè)堆疊的卷積長(zhǎng)短期存儲(chǔ)層。

9.根據(jù)權(quán)利要求1所述的方法，其中，所述當(dāng)前圖像的至少一個(gè)預(yù)測(cè)變換包括一個(gè)或多個(gè)空間變換器的參數(shù)。