九成神经元仍是初步估计

The Decoder 10 月 16 日报道，Goodfire 的 Nick Cammarata 在文章《Neural Networks Are Already Clean》里给出一组初步数字。在 Qwen3-32B 上，大约 90% 的神经元极只有一项主要工作，大约 7% 有两项相关的工作，只有 2% 到 4% 还解释不了。Goodfire 说，在大到万亿参数的模型上看到类似结果。

Cammarata 是叠加假设的提出者之一。他现在认为，早期被当成“一个神经元装了几件不相干的事”的证据，多半是看错了。文章把那叫做递归泛化，并认为因此可以直接研究网络自己的神经元，不必先训练另一个模型把概念拆开。The Decoder 把这记成他的论点，不是已经复核过的测量。

DeepMind 可解释性负责人 Neel Nanda 认为，这并没有改变大局。他仍然认为叠加是真实的：语言模型要记的事实比神经元多，弱激活里很可能还有大量信息。他不认为可解释性已经接近被完全解决。配套的技术论文还没有放出。

Goodfire 是一家做可解释性的公司，The Decoder 写道，它对这个论点有明显的利害关系。在论文放出、并由别人复核之前，90% 只能当成 Cammarata 的初步估计。OpenAI 的 Roon 在文中被引为称这可能是科学史上的重要时刻，同时他也写了，别人还需要确认结果。