Artificial Analysis AA-Briefcase 文章配图
Artificial Analysis 文章配图:Measuring time per task in AA-Briefcase(2026-06-24)。, Artificial Analysis

要点

  • AA-Briefcase 用评测 token、代表输出速度与工具执行时间估算平均单任务墙钟时间。
  • Claude Opus 4.8 为当时可调用最高分档之一,平均约 23 分钟/任务;GPT-5.5(xhigh)约 11 分钟且整体 Elo 进前五。
  • 工具调用与执行约占时 12%;其余来自输出长度、轮次与推理速度。可证伪点是 Elo–时延帕累托,不是「更快必然更强」。

Artificial Analysis 在 2026 年 6 月 24 日补充发布 AA-Briefcase 的「单任务平均耗时」读法。基准本身测的是多周知识工作项目里的可交付物:财务模型、董事会材料、设计稿等,由行业专家出题。

可证伪读法很窄。若公开方法下,分数领先模型并不系统性地更慢,或工具执行远高于约 12% 的时延份额,则「高分≈贵时间」这条产品含义需要改写。本文不把「代理已能替人做完多周项目」当作已证结论。

[1][2]

硬事实(AA 2026-06-24 时延文,并交叉 2026-06-18 发布文):

  • 指标:average time per task = 评测 token 用量 ÷ 代表输出速度 + 评测中记录的工具执行时间。
  • Claude Opus 4.8:当时可调用最高分模型之一,平均约 23 分钟/任务。
  • GPT-5.5 多个 reasoning 档位落在 Elo–时延帕累托前沿;其中 xhigh 约 11 分钟/任务,约为 Opus 4.8 一半,整体 Elo 进前五(文中记 GPT-5.5 xhigh Elo 1159)。
  • GLM-5.2:Elo 1261,高于该 GPT-5.5 xhigh,时延约 16.3 分钟;并为开权模型最高分,其后 MiniMax-M3 Elo 1113。
  • 若 Claude Fable 5 仍可调用:作者估算约 28.5 分钟/任务(活体时测得约 91 output tok/s、工具约 3.1 分钟/任务、约 139k output tokens/任务)。
  • 结构:工具调用与执行仅约占时 12%;其余由输出冗长、轮次与推理速度解释。
  • 基准结构(发布文):四套私有多周场景共 91 题;公开第五场景仅演示,不计官方分。
[1][2]

证据强度:基准设计方自测与自报。时延是「token/标称速度 + 工具时间」的估计墙钟,不是每家云厂商真实排队后的用户体感。Elo 聚合了 rubric 通过率与分析/呈现两套成对比较。

机制上,文章把慢的主因指回模型自己的话多、轮次多、推理慢,而不是工具沙箱拖后腿。这对采购含义直接:你买的往往是「愿意想更久的高分」,不是「工具层必然占大半时间」。

钢人论证:若帕累托图稳定,买方可以在 Opus 级高分慢档与 GPT-5.5 xhigh / GLM-5.2 这类「分够用、时间更短或开权」选项之间做显式权衡,而不是只看榜首名字。

[1][2]

最强钢人:把时间放进与 Elo 同一平面,比只报分数更接近真实部署成本;开权 GLM-5.2 同时出现在高分与帕累托附近,削弱了「只有闭源能做长程知识工作」的口号。

钢人风险:任务彼此独立跑、不携带模型自己上轮交付物,与真人多周项目的状态累积不同。私有题降低污染,也提高外部复现门槛。「代表输出速度」若与某云实际吞吐偏离,墙钟会被系统性偏移。Fable 5 已不可用时的外推依赖历史测速。本文数字锚定 2026 年 6 月快照;排行榜后来会变。

[1][2]

对采购与平台团队,六个月内可核对的是:自有工作流里高分模型的真实墙钟是否仍接近 10–30 分钟/任务量级,以及降低 verbosity / 轮次后分数掉多少。对评测读者,应同时看 Elo、时延与成本文,而不是只截榜首。对模型方,若工具时延份额长期远低于输出侧,优化重点更可能是何时停止与写多短,而不是再堆工具种类。

[1]

AA-Briefcase 的时延篇把「代理很强」拆成可核对的分数–时间权衡。可证伪焦点应放在:高分模型是否稳定更慢,工具是否真的只占约一成时延,以及开权模型是否仍能停在帕累托附近。若这三条在更新榜上仍成立,「更快=更强」就站不住;站得住的是显式的 Elo–时延交易。

【No.2】

[1]