Rohan Paul
@rohanpaul_ai
Perceptron 发布了 Mk1.5,这是一个 35B 体现代理模型,请求完成速度提高了 4.7 倍。
4. 第一人称视频是一个与普通视频理解截然不同的问题。
对于机器人或智能眼镜来说,手不断地进入画面、操纵物体、消失、返回以及部分遮挡重要的东西。相机本身也在移动。
Perceptron 专门针对以自我为中心的视频训练了 Mk1.5,非常有趣的是,当启用工具时,该模型在 MMSearch 上获得了 36.1 点的跳跃。当可以使用网页搜索、页面阅读、反向图像搜索和缩放时,F1 从 18.2 移动到 54.3。
这也是思考具身智能的有用方法。
机器人不需要将所有可能的能力都编码到其权重中。它需要识别当前信息何时不足,选择正确的外部功能,使用它,然后继续执行任务。