Rohan Paul
@rohanpaul_ai
清华大学和 Moonshot AI 的新论文发现,GPT-6 Astra 能在 Lean 中证明 70.0% 的研究级计算机科学定理,但同一模型在理论计算机科学(TCS)的 30 个未解猜想中一个都没解决。
理论计算机科学是人工智能研究的天然试验场,因为证明可以由机器检验,纪录也可以被刷新。现有基准只覆盖切片,比如证明或代码。
TCSExam 有 4 个赛道共 100 项经专家评审的任务:Lean 定理证明、求解器工程、创纪录构造,以及 30 个未解猜想。Lean 内核或任务检查器会验证每一次提交。
在没有提供引理的情况下,GPT-6 Astra 在 70.0% 的尝试中完全证明了定理,Kimi K3.1 Pro 为 38.3%,其他 6 个代理最多为 11.7%。少数被接受的猜想提交采用了 OpenAI 已经发表的反例和证明。