Rohan Paul
@rohanpaul_ai
人类视频正在成为机器人技术的重要预训练基础:
但非常有趣的是,虽然人类视频可以教机器人有用的操作技能,但当在训练前将人类经验转化为机器人自己的身体和动作时,效果会更好。即
“有效体验≈小时数×每小时信息量。”
在这里读起来真的很不错。它主张在两个轴上进行缩放:“体验尺度”,意味着你记录了多少人类活动,以及“体验密度”,意味着每个记录揭示了多少关于物体状态、手和身体运动、接触、几何、时间和工具使用的信息。
“体验密度”来自于在每次人类演示中捕捉更多的物理现象。例如训练数据不仅仅可以看到有人打开抽屉,还可以保存手接触抽屉的位置、物体如何移动、涉及什么力量或抓握以及场景随后如何变化。