[發明專利]用于機器人抓握的深度機器學習方法和裝置

有效

• 申請號: 202010074457.2
• 申請日: 2016-12-13
• 公開（公告）號: CN111230871B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 謝爾蓋·萊文;彼得·帕斯特桑佩德羅;亞歷克斯·克里茲黑夫斯基
• 申請（專利權）人: 谷歌有限責任公司
• 主分類號: B25J9/16
• 分類號: B25J9/16;G06N3/0464;G06N3/084;G05B13/02
• 代理公司: 中原信達知識產權代理有限責任公司 11219
• 代理人: 周亞榮;鄧聰惠

本公開涉及用于機器人抓握的深度機器學習方法和裝置。一些實施方式涉及訓練深度神經網絡以預測用于機器人的末端執行器的候選運動數據將導致末端執行器成功抓握一個或多個對象的度量。一些實施方式涉及利用經訓練的深度神經網絡來伺服機器人的抓握末端執行器以通過抓握末端執行器實現對對象的成功抓握。例如，經訓練的深度神經網絡可以用于機器人的一個或多個致動器的運動控制命令的迭代更新，所述一個或多個致動器控制機器人的抓握末端執行器的姿勢，并且確定何時生成抓握控制命令以通過抓握末端執行器實現嘗試的抓握。

分案說明

本申請屬于申請日為2016年12月13日的中國發明專利申請No.201680083745.6的分案申請。

背景技術

許多機器人被編程為利用一個或多個末端執行器來抓握一個或多個對象。例如，機器人可以利用諸如“沖擊式(impactive)”抓手或“進入式(ingressive)”抓手(例如，使用銷、針等物理地穿透對象)的抓握末端執行器從第一位置拾取對象，移動對象到第二位置，并且在第二位置放下對象。可以抓握對象的機器人末端執行器的一些附加示例包括“收斂式(astrictive)”末端執行器(例如，使用抽吸或真空來拾取對象)和一個或多個“連續(contigutive)”末端執行器(例如，使用表面張力、冷凍或粘合劑來拾取對象)，此處僅舉幾例。

發明內容

本說明書一般涉及與機器人的末端執行器對對象的操縱有關的深度機器學習方法和裝置。一些實施方式涉及訓練深度神經網絡，例如卷積神經網絡(在本文中也稱為“CNN”)，以預測機器人的末端執行器的候選運動數據將導致由末端執行器成功抓握一個或多個對象的概率。例如，一些實施方式使得能夠作為輸入對于經訓練的深度神經網絡至少應用：(1)定義機器人的抓握末端執行器的候選運動(如果有的話)的候選運動向量和(2)捕獲機器人的至少一部分工作空間的圖像；并且基于所述應用，至少生成直接或間接指示候選運動向量將導致成功抓握的概率的度量。然后，預測概率可以用于伺服具有抓握末端執行器的機器人的抓握嘗試的性能，從而提高機器人成功抓握其環境中的對象的能力。

一些實施方式涉及利用經訓練的深度神經網絡來伺服機器人的抓握末端執行器以通過抓握末端執行器實現對對象的成功抓握。例如，經訓練的深度神經網絡可以用于機器人的一個或多個致動器的運動控制命令的迭代更新，所述一個或多個致動器控制機器人的抓握末端執行器的姿勢，并且確定何時生成抓握控制命令以通過抓握末端執行器實現嘗試的抓握。在各種實施方式中，利用經訓練的深度神經網絡來伺服抓握末端執行器可以實現對機器人擾動和/或環境對象的運動的快速反饋和/或對不準確的機器人致動的魯棒性。

在一些實施方式中，提供了一種方法，包括：生成候選末端執行器運動向量，所述候選末端執行器運動向量定義用于將機器人的抓握末端執行器從當前姿勢移動到附加姿勢的運動。所述方法還包括：識別當前圖像，所述當前圖像由與所述機器人相關聯的視覺傳感器捕獲，并且捕獲所述抓握末端執行器和所述機器人的環境中的至少一個對象。所述方法還包括：將所述當前圖像和所述候選末端執行器運動向量作為輸入應用于經訓練的卷積神經網絡，并且在所述經訓練的卷積神經網絡上，生成在應用所述運動的情況下成功抓握所述對象的度量。所述度量是基于向所述經訓練的卷積神經網絡應用所述圖像和所述末端執行器運動向量來生成的。所述方法選用地還包括：基于所述度量生成末端執行器命令，并且將所述末端執行器命令提供給所述機器人的一個或多個致動器。所述末端執行器命令可以是抓握命令或末端執行器運動命令。

該方法和本文公開的技術的其他實施方式可以各自可選地包括以下特征中的一個或多個。