Andrew Ng

OpenAI-Hugging Face 的攻击之所以得逞，是因为沙箱过弱。英伟达正在发布用于给 AI 智能体做沙箱隔离的开源工具，这很好。OpenWorker——我们支持网络安全工作流的开源智能体框架——很高兴能支持这一点。 沙箱会给智能体有限的权限。OpenWorker 正在基于 Nvidia OpenShell 构建，并将支持在沙箱中运行每个智能体的命令。只有与任务相关的文件会放进去。密钥 API 密钥、你的浏览器登录凭据、访问任意网站的能力，默认对智能体都不可访问。这些限制用确定性代码实现，而不是靠给 LLM 下提示——后者可能出错或易受提示注入影响。此外，所有操作都会被记录，便于监控与审计。 我感谢 @JensenHuang 推动 AI 智能体更安全的领导力。OpenWorker（由 @rohitcprasad 和我一起推进）将继续提升智能体的安全性。