AI Impacts 于 9 月公布《Advanced AI according to 1,580 researchers》(ESPAI2024):1580 名 AI 研究者平均估计,未来 AI 进展导致人类灭绝或同等程度的永久性严重失能的概率为约 18%;中位数估计为 10%,51.1% 的受访者给出的概率不低于 10%;72% 支持加大对降低 AI 风险的研究投入。这份基于 2024 年数据的调查,在黄仁勋宣称"2030 年世界末日概率 0%"的同一天被媒体重新拾起——两个数字之间的落差,本身就是本周最值得写的新闻。

先交代方法与口径。ESPAI(Expert Survey on Progress in AI)自 2016 年以来已进行四次,是持续最久的大型 AI 研究者调查之一;样本为顶级 AI 会议(如 NeurIPS)的论文作者与相关研究者,2024 版回收 1580 份。报告同时指出:人类级 AI(HLMI)的时间线估计在历次调查间显著缩短,而对高级 AI 后果的深度担忧持续或加深——"来得更早"与"后果更重"两个趋势在同步收紧。

数字要拆开读。平均 18% 与中位数 10% 的差异说明分布右偏:少数研究者给出很高的概率,把平均值抬了上去;一半人认为至少 10%。这个分布本身比任何一个点估计都更有信息量——它不是"行业共识",而是"行业没有共识,但担忧集中在下限不低的位置"。AI Impacts 的摘要口径是"平均 18%",俄语与德语转述站给出 18.2%,以官方 PDF 的 18% 为准。

比灭绝概率更值得注意的,是

[1][2]

风险排序。在十一类风险中,研究者最关切的不是机器人起义,而是 83% 的人认为 AI 会让虚假信息(如深度伪造)易于大规模传播——接近五分之四的研究者把"污染信息环境"排在风险榜首。这个结果与过去几周围绕模型越界、安全披露机制的讨论形成了互证:从业者最担心的风险不是模型变强本身,而是强模型把"难以分辨真假"变成常态。

局限与对照要写清楚。这是 2024 年的调查数据,2026 年 9 月才公布,样本与表述可能滞后于行业变化;"平均 18%"是统计口径,不等于任何个体的预测;研究者群体的风险认知受其所在机构、领域与新闻周期影响。它与黄仁勋的"0%"、阿莫代伊的"值得警惕但可控"共同构成 2026 年 9 月的风险光谱——三组人都不是在陈述事实,而是在给出可检验的判断。这份调查的价值在于:它把"研究者怎么想"从印象变成了可引用的分布。

[1][2]
清晨的大学研讨室,一名学者的背影站在投影幕布前,幕布上显示一条向右偏斜的概率分布曲线与柱状图,学者右手举着激光笔指向曲线右尾,窗边晨光斜照进房间,桌上散落着打印的问卷
清晨研讨室概率分布讲解的编辑级插画, AI 生成插画,非新闻照片