Atlantic Council 配图:Anthropic 等相关 AI 放缓讨论现场意象
Amodei、Altman 等人呼吁「控制前沿节奏」;大西洋理事会专家把瓶颈指向公共部门能力与美中政治,而非缺一次 CEO 表态。, Atlantic Council

要点

  • 大西洋理事会专家集(约 2026-09-13/14)评估 Anthropic CEO Dario Amodei「放缓节奏」倡议及 OpenAI、DeepMind、Musk 等跟进:欢迎行业对齐,但强调政府需跟上。
  • Graham Brookie 称全球已有 114 个 AI 安全/安保机构,仅 9 个正式协调;Kenton Thibaut 判断对华安全突破「高度不可能」;Emerson Brooking 称嵌入式评估是科技史上最具体的透明承诺之一。
  • Trisha Ray 指出对齐研究经费相对能力投入严重不足,且 2024 年后安全研究资金下降;Safa Shahwan Edwards 追问依赖实验室准入的评估方能否真正独立。

大西洋理事会在 2026 年 9 月中旬的专家集,把周末的行业合唱收成一句制度判断:Anthropic 首席执行官 Dario Amodei 提议「放缓」AI 开发节奏后,OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis 与 Elon Musk 迅速跟进——对齐难得,但不够。

可证伪的主张是:约束项不在「再缺一次 CEO 联署」,而在公共部门是否具备与行业承诺匹配的能力、权限与对华政治空间。Brookie 写到的 114 个安全机构里只有 9 个正式协调,把这句话从感觉写成了可数的地图。

[1]

Amodei 方案被专家拆成三块:嵌入评估方、与民主国家同步节奏、全球(含中国)管理灾难风险。Brookie 欢迎行业对齐,同时指出白宫与国会尚无同样彻底的提案;与盟国协调需要政府牵线并获得前沿模型准入;与中国管理灾难风险,取决于双方领导层此刻都显得缺乏的意愿——9 月 24 日特朗普与习近平的会晤被点名为关键节点。

Safa Shahwan Edwards 用网络空间的信心建设措施作类比,问两个更大问题:行业能否有效自我控速?依赖实验室提供模型、信息与基础设施的「嵌入式评估方」是否足够有权——尤其在 Anthropic 曾对英国 AI 安全研究所拒供模型之类保护主义动作仍在的背景下。

[1]

Thibaut 的中国线最冷:华盛顿与北京对失控风险有共同语言的信号(习近平 7 月谈及失控、监测危险行为、保持人类控制),中国也有技术理由关注境外部署的开权重量模型;但北京怀疑美方动机,并警告安全讨论可能掩盖「技术霸权」。官方来源要求规则同样适用于并能执行于美国公司。在此政治环境下,重大安全突破「高度不可能」;窄范围合作仍可能,例如非国家行为体滥用防范、联合监测与应急。

Trisha Ray 把「只控前沿节奏」判为不够:对齐研究总投入即便取宽口径也只在数亿美元量级,相对能力侧的数百亿;安全研究资金自 2024 年后下降;Future of Life Institute 2025 指数显示无主要实验室在存在性安全准备上高于 D。Emerson Brooking 则把嵌入式评估称作科技史上最具体的透明承诺之一——评估方将在 Anthropic 办公并获接近内部风险团队的权限。Komaitis 呼吁华盛顿介入,而不是把节奏完全交给竞赛中的公司。

[1]

钢人论证支持行业先行:若未发布模型的风险知情最多的是实验室,嵌入评估与自愿 pacing 比空等立法更快产生可观察对象;Brooking 强调的「具体承诺」确实比口号可证伪。

硬伤在专家集内部已被写明。没有法定准入与独立预算,评估方可能变成实验室许可下的访客;没有公共部门扩容,民主国家协调与全球层 CBMs 都会空转;对华轨道若被「霸权」叙事锁死,Amodei 的第三支柱会先于第一支柱失败。大西洋理事会即将发布的全球安全机构能力图,本身也还是「今秋将发表」的预告——114/9 的数字需要读者在正式报告落地后复核。

[1]

对行政与国会,观测指标是:是否出现与 Amodei 方案同等具体的评估方准入立法或行政要求;安全研究所之间的正式协调数是否从个位数上升;特朗普–习近平会晤是否产出任何窄范围风险合作语言。对实验室,指标是嵌入评估是否真正获得员工级权限并公开事件报告时限,以及安全研究预算是否与能力支出同向披露。

对公众信任,Brookie 提醒:当前沿研究员辞职并给出灭绝概率量级的估计时,信任赤字会加深——而大西洋理事会 AI 委员会已把信任列为领导力的使能条件。行业合唱若无匹配的公共能力,可能加剧「公司定义安全」的怀疑,而不是缓解它。

[1]

未来六个月,若嵌入评估落地而政府侧协调与对华窄合作仍空白,则专家集的诊断成立:历史性的行业对齐撞上了国家能力与地缘政治天花板。若立法或行政工具开始保证评估独立性,且安全机构正式协调显著增加,才谈得上「放缓」从公关周变成治理基建。

【No.2】

[1]