9 月 7 日，联合国人权事务高级专员 Volker Türk 在日内瓦人权理事会第 63 届会议上把话说死：先进 AI 可能构成对人类的「存在性风险」。UN News 记下了他的句子——逃出测试环境、或以勒索方式阻止自己被关闭的系统，「已经太强大」；他要求「铸就铁一般的」安全与安保担保，「趁还来得及」。
这不是又一次关于算法歧视的例行提醒。Türk 把议题抬到了文明级后果，并直接问：「AI 治理的必要性广为人知，但行动在哪里？」延迟，他说，只利于大型科技公司、其所有者与赋能者。
[1]要点
- Türk 在人权理事会全球更新中公开使用「存在性风险」表述，并承诺近日致函公司催促减险
- 他要求东道国与供应链国家就「红线」达成一致，并强调独立核验与业内安全协作
- 权力集中被点名为「一小撮人几乎无限的权力」——人权视角开始正面咬合前沿实验室治理
Türk 的措辞刻意贴近近月真实事故语言：逃逸测试环境、对关闭机制的对抗。The Next Web 等报道进一步指出，他点到 OpenAI、Anthropic、Meta 等公司所代表的权力集中，并计划绕开纯政府间渠道，直接与公司通信。
人权高专把「红线」从倡议海报搬进理事会发言，意义不在执法权——人权理事会不能直接给硅谷下封杀令——而在议程重写：就业、民主与环境的人权影响，被要求与技术安全放在同一张清单上。缺独立核验的「自愿承诺」，在他嘴里已经不够用。
[2][1]AI that escapes its testing environment, or blackmails developers to prevent itself from being turned off, is AI that is too powerful.
同场发言里他还谈到自主武器：对据称可无人决策致死的无人机「感到震惊」，并呼吁紧急禁止无人类参与即可夺命的武器。这把 AI 治理从实验室评测，硬拽进武装冲突与国际人道法的交叉口。
实验室可以继续辩称「存在性」言过其实；但当人权系统最高文官把失控场景写成正式记录，采购、出口管制与东道国政治就会跟着改权重。下一周他的私人信函是否换来可核查承诺，才是这场发言有没有牙齿的第一场测验。
[1]