Rohan Paul
@rohanpaul_ai
大量的。麻省理工学院的研究人员表明,GPT-6 Astra 可以通过直接改变权重来改进另一个 AI 模型,无需训练。
在这里,GPT-6 Astra 通过编辑 0.016% 的权重,在未经训练的情况下将 Qwen3.5-0.8B 在 MATH-500 上的性能从 7.9% 提高到 48.1%。
Astra 在 Python 笔记本中获得了 Qwen 的权重,再加上 50 次数学练习题测试运行的预算。它看到模型不断重复自身,直到达到其长度限制,将这种习惯追溯到由其两层写入的单个内部信号,并从权重中减去该信号。
随着循环消失,模型可以完成它已经能够解决的答案。
单次有针对性的编辑改变了 0.016% 的权重,并将数学准确性从 7.9% 提高到 48.1%。