浅色网点背景上,黑色线条连接着粉、黄、蓝的小菱形,画面中央是 Control Room 几个字。
来自 OpenAI Control Room 文章的社交预览图。, OpenAI

要点

  • 2026 年 11 月 9 日,OpenAI 发表了关于 Control Room 的技术说明。这套系统已经部署在其研究基础设施上,用来跟踪并停止模型工作负载。
  • 凡是会做智能体式推理的研究任务,也就是允许模型连续采取行动的任务,都必须挂到一份已批准的安全说明上,并在启动前向 Control Room 申请任务编号。
  • 推理引擎是在 GPU 上运行模型的程序。它在生成 token(模型写出的文本单位)之前,先向 Control Room 申请许可。任务一旦被停止,引擎就返回拒绝。研究进程本身可能还在运行。
  • 从下达停止命令,到模型输出被挡住,最长间隔是 35 秒。这段延迟来自一层缓存,用来撑住大量的授权检查。
  • 系统采用失效即拒绝:Control Room 宕机或被关掉时,所有推理请求都会被拒绝。OpenAI 说,这一行为已经覆盖所有前沿模型的研究工作负载,其余研究工作负载将在文章发表后的几天内完成覆盖。

2026 年 11 月 9 日,OpenAI 发表了关于 Control Room 的技术说明。这是一套中央系统,用来跟踪其研究基础设施上的模型工作负载,并在出现安全或安保问题时把它们停掉。这套系统已经在研究侧运行。真正关键的设计选择,是停止动作发生在哪里。它并不信任研究员的任务代码会自己关掉自己。推理引擎,也就是在 GPU 上运行模型的程序,必须先向 Control Room 申请许可,才能继续产出。如果 Control Room 自己挂了,这些请求会被拒绝。文中给出的数字更窄:决定停止或暂停一项任务之后,模型的后续输出会在 35 秒内被挡住。

[1]

它实际做了什么

Control Room 处在三部分之间。工作负载是正在跑的任务,比如强化学习实验、评测,或大量采样、数据处理。推理引擎是在 GPU 上运行的模型。一个任务可以用不止一个模型,一个引擎也可以服务不止一个任务。Control Room 服务保存任务名单,并决定每一项是否仍被允许继续生成输出。

研究员启动任务时,任务代码向 Control Room 申请一个新的任务编号,并且必须把这项任务挂到一份已批准的安全说明上,也就是一份写明这次运行可以开始的论证。任务每次想向模型要新的 token,就把这个编号发给推理引擎。请求是直接打到引擎的,并不经过 Control Room。引擎再向 Control Room 询问这个编号是否仍被授权。如果是,引擎就返回模型输出。如果有人,或一套监控系统,已经把这项任务标成停止,Control Room 会在下一次检查时拒绝,引擎就返回拒绝,而不再给出新的 token。

OpenAI 写得很清楚:停止之后,任务进程可以继续活着,引擎也仍然可以向其他已授权的任务提供服务。这套设计要切断的是模型输出,而不是拆掉研究员启动的每一个进程。

[1]

为什么开关装在引擎里

任务代码由研究员编写并频繁改动,所以不适合承担必须每次都生效的保护。OpenAI 说,整个研究系统里,推理代码路径只有很少几种,部署也更集中、更统一。于是引擎成了卡口:每一笔研究侧的推理请求,都可以被要求带上 Control Room 检查。

文章还写,OpenAI 会持续做排查,既用程序,也用智能体,寻找那些没有实现或已经关掉 Control Room 的引擎,无论是无意还是有意。

监控器是另一个模型,负责查看正在被训练的模型在做什么,也可以向 Control Room 发出停止指令。OpenAI 说,所有前沿强化学习任务都带着这样的监控器运行,而且最近一次与 DNS 有关的事件就是被监控器抓住的。这篇文章没有再展开那次事件。

[1]

35 秒延迟,以及失效即拒绝

从 Control Room 收到停止指令,到任务无法再向前推进,最长是 35 秒。这段延迟来自推理授权上的一层缓存,是为了撑住请求量而加的。OpenAI 说,它正在把这个数字往零推,以便立刻结束任务。

另一个关键属性是失效即拒绝。如果 Control Room 服务因为故障、被关闭,或被人篡改而宕机,在服务恢复之前,所有推理请求都会被拒绝。OpenAI 说,这一行为已经覆盖所有前沿模型的研究工作负载,并将在文章发表后的几天内,覆盖其余研究工作负载。

公司对外提供产品的模型服务栈,被描述为本来就更集中,并且已有快速下线部署的办法。就这篇文章而言,Control Room 是研究侧的系统。

[1]

更宽容的读法,以及缺口

更宽容的读法是:这是一份认真的工程说明,讨论的是,当研究员在共享的模型引擎上跑种类杂、改动频的任务时,急停按钮应该装在哪里。把检查放在少量推理路径里,不让任务代码自己监督自己,控制服务一死就拒绝全部推理,这是一套说得通的设计。35 秒的缓存被写成已知的取舍,并没有藏起来。

这篇文章没有给出运行记录。它没有说 Control Room 被用来停止过多少次任务,那些任务当时在做什么,覆盖范围又是否经过独立检查。输出被拒绝之后,研究进程仍可能继续运行,因此任何并不依赖后续模型 token 的风险,都不在这里描述的机制之内。35 秒的窗口也是真实的:缓存在过期之前,输出还可以继续。每个引擎都被覆盖的承诺,部分取决于那些对违规实现的排查。这些并不让这套设计显得随便。它只说明,目前公开的证据是对机制的描述,而不是一份可核验的干预历史。

[1]

谁该在意,接下来看什么

在共享研究集群上训练或评测前沿模型的人应该关心这件事,需要判断一家实验室的停止程序是否靠得住的人也应该关心。面向产品的模型服务,在文中被当成另一件已经更集中处理的事情。

未来六个月里,值得盯住的数字,正是 OpenAI 自己标出来的那些。授权延迟会不会从 35 秒往下降,能降到多少?失效即拒绝会不会覆盖完其余研究工作负载,并且保持下去?公司会不会公布这个开关实际被按下的次数,还是只留下架构说明?

[1]

收束

Control Room 讲的是如何控制研究侧的推理,而不是已经按一张公开时间表,测到并停掉了危险输出。35 秒这个数字足够具体,以后可以对着核。更要紧的检验是:任务代码写得乱、缓存正高负载、出问题的又是控制服务本身时,这个停止动作是否仍然有效。

[1]