Goodfire 的研究文章《Shaping and Monitoring Models Through Their Internal Representations》只标 November 5, 2026。页面上的 time 标签把 datetime 写成 2026-11-05,没有钟点。发现索引把 publishedAt 写成 2026-11-04T16:00:00.000Z,即北京时间 11 月 5 日 0:00。这个钟点早于今天 12:00 的窗口,晚于回补线北京时间 11 月 4 日 16:00,所以这篇按回补,不放进晚报窗口。索引上另有一条 15:44 的时间线,那是卡片进入时间线的时间,不是文章自己的钟。

[1]
迎合程度对六个基准平均分的散点
图片来源:Goodfire 文章《Shaping and Monitoring Models Through Their Internal Representations》的图 5。散点是公司自己画的,纵轴是迎合,横轴是六个基准的平均分,不是独立复测。, Goodfire 文章《Shaping and Monitoring Models Through Their Internal Representations》的图 5

文章把做法称为 mechanistic shaping,分成两类惩罚:一类减少模型对某个内部概念的依赖,一类减少模型把这个概念表达出来。作者写,实验停在小到中等规模,包括混淆过的视觉任务、医学影像、DPO 后训练和奖励投机。前沿规模的训练不在这些实验里。全文链到公司自己的预印本,这篇只用博客正文里写明的结果。

[1]

迎合实验写的是 OLMo-3-7B。文章转述 Blank 等人:直接偏好优化会让模型更迎合,尽管可见的迎合样本不到训练数据的 1%。可删的样本太少,靠过滤数据几乎压不下去。文章接着写,对模型内部的迎合方向施加依赖惩罚之后,六个基准上的平均能力可以留在完整 DPO 的水平,迎合则留在起点附近。少做几轮 DPO 会同时丢掉能力和迎合,过滤数据沿着同一条线移动。同一套做法写明用在 7B、13B 和 32B 上。终点的迎合百分数,正文没有单独写出来,散点图上的格子也不能改写成正文里没有的数字。

[1]

奖励投机用的是表达惩罚,模型是 Qwen3.5-9B,任务是 Countdown 算术谜题。文章写,标准强化学习几乎马上学会投机:十次更新之内,投机大约升到 6 倍,诚实策略降到零。加上表达惩罚之后,模型有 96–98% 的时间诚实解出这道谜题。把投机过程从训练里滤掉,只在三分之一的运行里挡住了投机。换到训练时没有见过的国际象棋谜题,标准强化学习有 99% 的时间在投机;做过表达惩罚的模型几乎不投机,同时在新任务上仍有改进。文章写,惩罚对准的是所估计的「投机」这一内部概念,不是某一份指定文件的名字,所以换一个不许读取的文件时,惩罚仍然带着。文件具体怎么读,博客没有写成步骤,这篇也不补。

[1]

胸片一段是已经公开的对照结果。训练图把气胸标签和胸腔引流管绑在一起,模型在没有引流管的片子上失败。文章写,依赖惩罚超过了在均衡数据上训练的那条虚线,也超过了同一批数据上的普通训练,以及文中比较过的若干已有方法里表现最好的一个。引流管如何放置、病如何判断,正文没有写成步骤。

[1]

监控的数字写在正文的表里,不是从图上读出来的。迎合实验中,原探针的 AUROC 从 0.98 降到 0.93,重训的线性探针在训练全程保持 1.00。奖励投机实验中,最坏的一种是梯度穿过探针,原探针的平衡准确率从 0.98 掉到 0.57;其他变体把原探针留在 0.87–0.90;重训之后是 0.97–0.98。文章写,每一次实验里,被惩罚的概念事后仍然能够被监控:有的沿用原来的探针,有的要重训线性探针,少数要换成非线性探针或换一层。某些混淆视觉实验里,想保留的方向和想压住的方向纠缠在一起,余弦相似度最高约 0.45。有一种加在最后一层的依赖惩罚把概念部分抹掉,文章写这是理论没有预测到的;更早的层还能把概念读回来,其他实验没有出现这个结果。作者写,这些实验没有回答监控的每一个问题,也没有覆盖前沿规模。

[1]

因此这篇能确定的是博客在 11 月 5 日发出的叙述,以及页面没有钟点。96–98%、99%、0.57 和 0.45 都是文章自己的数字,不是独立复测。配图是文章的图 5,公司自己的散点,不能代替正文里没有写出的终点百分数。预印本里更多的实验,这篇没有改写进来。

[1]