Rohan Paul

@rohanpaul_ai

更多的记忆并不能继续帮助个人代理,因为相关的笔记在一定程度上有帮助,然后额外的行开始让代理错过规则。 个人代理无法通过记忆笔记来了解每个用户的偏好,更多的笔记最终会让情况变得更糟,因此对于必须计算或跟踪的任何内容都使用代码并保持记忆简短。 书面规则适用于风格,例如用用户的名字签署文本。对于运行的支出总额,规定的规则仍有 44% 的失败率,而保持总额的代码失败率为 0%。 内存大小有一个最佳点。在 Claude Haiku 4.5 中,违规行为从没有记忆的 77% 下降到 10 行的 20%,然后上升到有较长记忆的 25% 左右。 根据用户投诉重写自己的记忆的代理会提前改进,然后停滞不前。最好的方法会导致近 48% 的违规行为,而当智能体被简单告知每种偏好时,违规行为的比例为 7.1%。
打开原帖#511482
  1. 产业

    Timnit Gebru:哈哈,我不应该说出其中一些人的实际工作地点(例如,为《时代》杂志撰写宣传封…
  2. 产业

    Timnit Gebru:“我知道,如果你不像我一样经常潜伏在互联网上,那段话听起来是多么疯狂
  3. 产业

    Tomasz Tunguz:虽然还有很长的路要走,但值得庆幸的是我们正在取得进展