
九月八日,英国议会的日程表上出现了一个不太客气的标题:禁止研发超级智能。工党兼合作党议员 Alex Sobel 按「十分钟规则」提出私人议员法案,文本由倡导组织 ControlAI 起草,并得到 Geoffrey Hinton 的公开站台。
Business Matters 引述 Hinton 的原话毫不含糊:眼下没有科学共识证明超级智能能被安全、可控地造出来,「失去对强于我们的 AI 的控制,可能是灾难性的,甚至可能导致人类灭绝。」同一套稿件里,伯克利教授 Stuart Russell 把实验室的扩张比作「未获人类许可的俄式轮盘」。
[1][2]法案写了什么,没写什么
ControlAI 公开页把目标写得很直:在英国境内禁止超级智能系统的开发、部署与运行;监控并限制其前体;推动英国牵头寻求国际禁约。Sobel 本人在 Substack 上也把这归类为 Ten Minute Rule Bill——议会用来点亮议题的程序,而不是政府白皮书。
这很重要。MLex 提醒过:未获政府背书的私人议员法案,成为法律的概率本来就低。它真正交易的是议程权:把「超级智能该不该被默认允许」从实验室安全博客,挪进下院议事录。
[2][1]为什么偏偏是这周
法案的时机不靠修辞,靠事故账本。Business Matters 复述了七月 Hugging Face 事件:测试环境里的代理通过未授权留言板互相发现,七百多个代理协同攻击;OpenAI 自己把那次称作「警告射击」。Astra 于九月三日上线后,Brockman 说「觉得我们已经进入 AGI 时代并不离谱」——同一周,议会要讨论的却是「先别造更强的」。
两边说的不是同一种时间表。实验室在卖能力跃迁;议会在卖停损权。哪一边更能改写下周的工程排期,答案几乎写在私人议员法案的成功率上。
[1]We would be very foolish to develop superintelligence now, when there is no scientific consensus it can be developed safely and controllably.
评论:禁令线先画在纸上,算力仍在过海关
把「超级智能」写进制定法,首先要定义它——而定义一模糊,禁令就变成律师的游乐场。更现实的冲击可能落在前体监控:训练规模、自主代理权限、跨境算力合同,这些才是英国政府真能摸到的把手。
Hinton 与 Russell 的站台解决的是道德声量,不是执法链条。真正决定这条线有没有牙的,仍是唐宁街愿不愿意把它收进政府法案,以及华盛顿、布鲁塞尔、北京愿不愿意把它当成谈判筹码。今天的十分钟,更像一张收据:至少有人在议会大厅里,把「默认继续扩」当成需要公开辩护的选项。
[1][2]