Rohan Paul

如果智能体的记忆已经改写了谁可以做什么，那么它可以做出完全一致的授权决策，但仍然是错误的。 本文研究了长时间运行的代理中的故障，其中权限、撤销和范围更改被压缩到持久内存中。 被撤销或缩小的许可可能会被错误地记住，而糟糕的记忆就会成为执行者版本的真相。 在该论文的类型化增量内存测试中，高达 50.2% 的未授权请求出现了错误授权。一旦存在虚假许可，执行者就会在 98.6% 的匹配试验中执行该许可。 仅将内存更改为确切的授权状态即可将那些未经授权的操作降低到 0%。这表明内存，而不是执行器，是这些情况下的主要故障点。 解决方法是在将权限写入内存之前对其进行验证，保留每个权限的来源，并通过确定性状态更新来跟踪授予、更改和撤销。 – arxiv。组织/abs/2609.01836 标题：“特工记忆是内源性授权洗钱的一个表面”