Rohan Paul
@rohanpaul_ai
卡内基梅隆与微软的新论文发现:最好的 AI 代码审查员在其前 5 条评论里抓住了 71.9% 的已知漏洞,仍远不足以撤掉人类审查者。
智能体写代码的速度已快过人类审查,诱使团队也让 AI 来审查。较旧的审查基准拿 AI 对照人类评论打分,而人类评论可能是吹毛求疵,也可能漏掉真漏洞。
他们构建了 CRBugBench:1800 个代码审查任务,每个 PR 引入了一个人类确认并修复过的漏洞。智能体在沙箱里审查原始改动,AI 评判检查其最靠前的发现是否点名了那个漏洞。
最好的智能体 claude-opus-5 在前 5 条评论里抓住了 71.9% 的漏洞,高于 5 个月前 opus-4.6 的 47.7%。在某公司私有仓库上,表现最多下降 25.5%,那里的漏洞更常需要项目上下文。
把审查智能体与人类审查者并用,并把仓库自有知识给他们,尤其是在大型或上下文很重的改动上。