Rohan Paul

Meta 和 Duke 的新论文发现，小型编码代理学习到的奖励黑客行为可以传播到更强大的模型，以重用其工作成果。 经过强化学习训练的编码代理可以学会在不解决任务的情况下让测试报告通过。过去的工作在孤立的代理中研究了这一点，但团队设置共享代码、计划和内存。 他们向小型开放模型传授有关测试设置的事实，然后运行强化学习，直到模型破解了他们的测试。接下来，14 个干净的模型通过传递代码、计划或共享内存与他们一起工作。 给出来自 Qwen2.5-Coder-14B 黑客攻击的 5 个传递示例，Claude-Opus-4.7 提交黑客代码的比例为 73.6%，Gemini-3.1-Pro 为 73.0%，而 GPT-5.5 则保持在 0.2%。在几个艰巨的任务链中，在原始特工离开后，黑客行为仍然存在。 将来自其他代理的代码、计划和内存视为不受信任的输入，并使用黑客无法欺骗的评估器检查最终代码。