加强模拟的更大价值——给真实机器人一双灵巧的“手”

NVIDIA研究者通过DeXtreme项目展示了模拟训练如何向机器人手传授复杂的操作技能

人类的手是数百万年进化过程中最了不起的成果之一。我们能够拿起各种物体并将它们作为工具使用,这是我们与其他动物的最大区别之一,这也使我们能够改变周围的世界。

要想让机器人在人类的日常生活中工作,机器人必须能够与我们的工具和周围的环境进行灵巧的互动。如果没有这种能力,它们就只能继续留在工厂、仓库等专门的领域发挥作用。

虽然有腿的机器人只需要一段时间就可以学会如何行走,但实践证明有手的机器人控制起来的难度要大得多。带有手指的机器人手有更多的关节,它们的运动必须经过特定的协调后才能完成指定的任务。传统的机器人控制方法需要预先对抓取和运动进行精确的编程,因此无法实现人类认为理所当然的那种“普通”精细运动控制技能。

解决这些问题的方法之一是采用深度强化学习(RL)技术训练一个控制机器人关节的神经网络。通过深度强化学习,机器人能够从试验和错误中学习,并在成功完成指定任务后得到奖励。然而学习这种技术可能需要数百万甚至数十亿样本,因此它几乎不可能直接应用于现实中的机器人。

（ 图1. DeXtreme将模拟环境中的灵巧操作转移到现实世界。）

模拟的应用

NVIDIA的Isaac机器人模拟器能够创造一个用于训练机器人的模拟空间,这个空间的运行速度比现实世界快1万多倍,但是遵守物理法则。

从事DeXtreme项目的NVIDIA研究者们,利用RL机器人训练模拟器Isaac Gym教机器人手如何将一个立方体摆放到指定的目标位置和方向或姿态。神经网络大脑可以在模拟中学会这一操作之后,再被移植到现实世界中控制机器人。

之前,只有OpenAI的研究者们展示过一次类似的工作。不过,他们的工作需要一个更复杂、更昂贵的机器人手,一个带有精确运动控制传感器的立方体,而且需要使用由数百台计算机组成的超级计算集群进行训练。

灵巧性训练的大众化

为了使世界各地的研究者都能够复制我们的实验,DeXtreme项目选择了尽可能简单、便宜的硬件。机器人本身是一台Allegro Hand,其成本只有其他一些机器人的1/10,它有四根手指并且没有可以移动的手腕。我们使用现成的RGB摄像头作为追踪立方体的“眼睛”,这样就可以在不使用特殊硬件的情况下根据需要轻松移动立方体。立方体是3D打印的,每个面都有贴纸。

( 图2. 一个简单、可负担的现成系统是实现可复制性的关键。DeXtreme使用的是三个RGB摄像头、一个3D打印的立方体和一个高性价比的机器人手，所以大家也应该可以轻松尝试。)

DeXtreme使用Isaac Gym进行训练,该模拟器可提供一个用于强化学习的端到端GPU加速模拟环境。NVIDIA PhysX在GPU上模拟出场景。在深度学习控制策略网络的训练过程中,结果会保留在GPU内存中。因此,这项训练可以在一台Omniverse OVX服务器上进行。在这个系统上训练一个好的策略大约需要32小时,相当于一个机器人在现实世界中42年的经验。

由于不需要单独的CPU集群进行模拟,因此在目前的云租赁价格下,训练所产生的计算成本降低了10-200倍。使用Isaac Gym训练模型大大减少了训练的时间和成本。

感知和合成数据

为了让机器人知道它所持的立方体的位置和方向,需要为机器人加上一个感知系统。为了控制成本并为将来操控其他物体留出余地,DeXtreme使用了三个现成的摄像头和一个可以解释立方体姿态的神经网络。

该网络通过使用Omniverse Replicator生成的约500万帧合成数据训练而成,没有使用任何真实的图像。它学习了如何在具有挑战性的真实环境中执行任务。为了使训练更加有效,我们使用了一种叫做域随机化的技术来改变照明和摄像机的位置,同时使用数据增强技术添加随机裁剪、旋转和背景。

（ 图3. DeXtreme NVIDIA Omniverse Replicator合成数据通过随机改变背景、照明和摄像机角度来训练一个强大的感知网络。）

DeXtreme姿态估计系统非常可靠,即便是在目标物体被部分遮挡或者图像有明显运动模糊的情况下也能准确感知到姿态。

( 图4. DeXtreme姿态估计器的计算机视觉模型在立方体的一部分被人手遮挡时的输出结果。)

现实世界中的机器人训练依然困难重重

使用模拟的主要原因之一是直接在现实世界中训练机器人会产生各种难题。例如机器人硬件在过度使用后容易损坏、实验的迭代周期和周转时间可能很长等。

（ 图5. 除了模拟之外，机器人还必须解决所有现实中的机械和物理学问题。）

我们在实验中经常发现在长期使用后需要对机械手进行修理,例如拧紧松动的螺丝、更换带状电缆、在进行10-15次试验后需要让机械手休息并等待它冷却等。在模拟中,我们是在一个不会损坏的机器人上进行训练,所以能够避开许多这样的问题,同时还能获得学习高难度任务所需的大量数据。而且模拟的运行速度比实时训练快得多,所以迭代周期大幅缩短。

在模拟环境中训练的最大问题是需要缩小模拟和现实世界之间的差距。为了解决这个问题,DeXtreme对模拟器中设置的物理属性使用了域随机化,可一次在超过十万个模拟环境中大规模地改变物体的质量、摩擦水平和其他属性。

随机化所带来的好处之一是让我们可以使用各种不常见的场景组合来训练人工智能,这能保证机器人在现实世界执行任务时的稳健性。例如,我们在现实机器人上的大部分实验都是在由于电路板上的连接松动而导致拇指轻微失灵的情况下进行的。尽管如此,我们还是对这些策略能够从模拟可靠地转移到现实世界而感到惊讶。

（ 图6. 经过超过32小时的强化学习，DeXtreme机器人能够在根据指定目标旋转立方体的任务中反复取得成功。）

从模拟到现实

未来机器人操作领域的突破将催生出新一批不仅限于传统工业用途的机器人应用。DeXtreme项目所传达的核心信息是:模拟可以成为训练复杂机器人系统的一个非常有效的工具,包括需要不断接触环境中的物体的机器人系统。我们使用成本相对较低的硬件来证明这一点是为了鼓励大家使用我们的模拟工具并在此基础上继续努力。

关于DeXtreme项目的更多细节,请查看论文并访问项目网页。

关于 NVIDIA

自1993年成立以来,NVIDIA (NASDAQ: NVDA) 一直是加速计算领域的先驱。NVIDIA 1999年发明的GPU驱动了PC游戏市场的增长,并重新定义了现代计算机图形,开启了现代AI时代,推动了元宇宙的创建。NVIDIA现在是一家全栈计算公司,其数据中心规模的产品正在重塑整个行业。更多信息,请访问 https://nvidianews.nvidia.com/。