Santiago Valdarrama
@svpino
这是一个相当酷的想法:
让你的智能体在选择最佳动作之前,先模拟每一种可能的动作。
这个模型是 PAN 2,来自基础模型研究所(IFM)的世界模型。他们称之为“模拟推理”(simulative reasoning)。
附件视频以冲浪者为例:同一道浪,三个不同的起乘时机。PAN 2 把三种情况都推演一遍,只有一种能冲上浪,于是它就选那个。
该模型使用生成潜在预测(GLP),工作方式如下:
• 输入:当前场景加上一个动作,以及要模拟多久
• 输出:接下来会发生什么,以你可以查看的视频呈现
推理分为两部分:
1. 概念推理:这里的骨干是大语言模型。它推理接下来会发生什么。
2. 感知推理:一个 290 亿参数的潜扩散模型(LDM)补上它看起来是什么样。
这一切都在 Apache 2.0 下开放!
他们提供了权重、训练代码和推理代码,所以你可以自己运行并在此基础上构建。