Nathan Lambert
@natolambert
我会这样表述:近年来数据行业蓬勃发展,但我们的净产出质量仍然太低(放大了像奖励操纵这样的行为)。
我们正在努力构建可扩展的方法,以为强化学习创建样本高效的数据。为了维持这个流程,我们需要推动评估科学的前沿,同时构建特定的基准,以在具有明显经济价值的领域进行阶梯式优化。
我一直在向 Mercor 提供关于如何有效建立这一研究方向的建议。这是我的看法,但我相信我们将看到经济方面对前沿实验室(开放推理、开放后训练和数据)的重大投资,这些实验室将围绕构建真实世界代表性评估和合成数据方法的专业知识来扩展训练数据。
我个人对此非常兴奋,这是将让更多经济领域“首次感受到 AGI”的研究。(而且,这有一个在开放模型上构建它的大好机会。)