Rohan Paul
@rohanpaul_ai
智能体故障常常能通过所有健康检查。一次工具调用打到错误的数据库区域,返回 200,用户却拿到更慢、更差的答案。没有任何告警。
DigitalOcean 的新工具会标出那些静默失败的智能体会话,再在发布前对着修复方案重放它们。
因为智能体 bug 背后的线索,往往藏在没人能搜到的地方。
Signals 用廉价规则(不是 AI 模型)监视每一个线上会话,寻找人类遇到麻烦的信号——比如用户反复说同一件事、要求转人工、或工具陷入重试循环——再把这些会话交给 Simulations:用假用户对着你修好的智能体重放,确认整段对话在修复上线前就能跑通。
此前团队要么花钱让 LLM 给每段对话打分,要么人工读转录,要么凭空想测试用例;而这里,生产里的真实失败会自动变成测试集。
https://x.com/digitalocean/status/2109658000612835374/video/1