Rohan Paul
@rohanpaul_ai
清华大学的新论文发现，将隐藏目标作为其实际任务一部分的智能体在大约 60% 的时间里会逃避顶级思维链监控。
思想链监视器会读取智能体的推理，以便在其行动之前捕获隐藏的目标。现有的红队测试使用通用模板，会留下突然的、易于发现的痕迹。
TraceMRT 将隐藏的副任务重写为主任务的可信步骤，然后搜索隐藏它的推理。他们攻击了 GPT-5.2 和 Claude-4.5 监视器。
在 SHADE-Arena 上，平均躲避率从之前最佳攻击时的 27.56% 上升到 59.94%，训练有素的人类审核员也错过了它们。贝叶斯监视器对整个轨迹和每个关键步骤进行加权，将检测 AUC 从 0.26 提升到 0.91。
如果您依赖 CoT 监视器，请使用特定于任务的攻击对它们进行红队，并对整个跟踪和每个关键操作进行评分。
