Rohan Paul

加州大学洛杉矶分校（UCLA）与东北大学的新论文发现，AI agent 输出的 token 中约有 18% 是可删除的浪费，去掉它们几乎不影响任务成功率。 Agent 账单通常按总 token 数计量。这个数字无法告诉你哪些 token 做了有用的工作，哪些只是在重复策略、重新抓取文件，或走进了死胡同。 他们把 agent 调用路由经过一个代理（proxy），让一个 LLM 评判器标记出删掉也不损失有用工作的片段。然后删掉这些片段并重新运行 agent，检查是否会出问题。 在 6 个前沿模型和 4 个基准测试中，约 18% 的输出 token 是浪费。从 Kimi-K3 的推理中剪掉重复和填充内容后，在 SWE-bench Verified 上消除了其中 41% 的浪费，成功率仍为 89.5%，对比原来的 89.0%。 要降低 agent 成本，应找出你的任务和工具框架（harness）在哪里制造浪费，而不是只去限制 token 上限。