Rohan Paul

@rohanpaul_ai

卡内基梅隆与微软的新论文发现:最好的 AI 代码审查员在其前 5 条评论里抓住了 71.9% 的已知漏洞,仍远不足以撤掉人类审查者。 智能体写代码的速度已快过人类审查,诱使团队也让 AI 来审查。较旧的审查基准拿 AI 对照人类评论打分,而人类评论可能是吹毛求疵,也可能漏掉真漏洞。 他们构建了 CRBugBench:1800 个代码审查任务,每个 PR 引入了一个人类确认并修复过的漏洞。智能体在沙箱里审查原始改动,AI 评判检查其最靠前的发现是否点名了那个漏洞。 最好的智能体 claude-opus-5 在前 5 条评论里抓住了 71.9% 的漏洞,高于 5 个月前 opus-4.6 的 47.7%。在某公司私有仓库上,表现最多下降 25.5%,那里的漏洞更常需要项目上下文。 把审查智能体与人类审查者并用,并把仓库自有知识给他们,尤其是在大型或上下文很重的改动上。
打开原帖#511482
  1. 产业

    Alexandr Wang:你不可能真的认为我和蒂姆·苹果有同样的质量 https://t.co/GB…
  2. 产业

    Replit ⠕:Replit现在可以从一个新的聊天中找到并处理您现有的项目
  3. 前沿

    端上智能体每次只算2B