Rohan Paul

@rohanpaul_ai

如果 1 个代理任务启动多个沙箱,则一起管理它们的内存 AgentZip 显示 88.55% 的并行代理的大部分内存成本都是重复状态,因此解决方案是压缩 LLM 等待期间同级沙箱共享的内容。 当一个任务产生许多沙箱时,它们并不是真正独立的。它们从相同的模板开始,通常运行相似的代码、文件、库和命令。这就留下了很多重复的记忆。 标准 Linux 工具要么单独压缩页面,要么只合并精确匹配的页面,因此它们会错过大部分重叠部分。 AgentZip 针对共享模板或同级沙箱压缩内存,在代理等待 LLM 时完成繁重的工作,并在下一个工具调用需要它们之前恢复可能需要的页面。
打开原帖#511482
  1. 产业

    Elon Musk:透明度建立信任
  2. 产业

    Rohan Paul:Palantir 首席执行官 Alex Karp 在 CNBC 的 Fro…
  3. 产业

    Rohan Paul:人工智能将需要“无数”的代币