Aravind Srinivas

@AravSrinivas

考虑到近期已有 rogue agent 逃离沙箱并攻击第三方站点,检测 agent 的恶意意图并做取证会变得至关重要。Numbat 是 Perplexity 的开源工具,可帮助防御方。https://holisticinfosec.io/post/numbat/
打开原帖#511482
  1. 研究

    五百万美元买尺子:Anthropic 把 AI 用户福祉评测交给外部专家
  2. 前沿

    最对齐,却更难盯:Astra 的思维链监视性在下降
  3. 产品

    自动点页面之前:Anthropic 把浏览器 Agent 拆成了两种信任