Santiago Valdarrama
@svpino
您可以使用此打开的项目将模型连接到模拟机器人。
然后,您可以测量机器人完成任务的情况。
基本循环很简单:
1. 模型 SenseNova-RoboRSI-27B-Preview 从机器人的摄像头接收任务和图像。
2.它选择一个动作
3. 模拟器执行该运动并返回新的观察结果
4. 模型使用该反馈来决定下一步做什么
该模型的一些亮点:
• 检查视觉细节和空间关系的原因
• 根据执行反馈调整行动
• RoboDojo 平均得分为 26.13,任务成功率为 20.83%
• 直接控制 LIBERO-Pro 的成功率高达 96.1%
这对于比较模型和理解机器人失败的原因非常有用。