Rohan Paul

英伟达放弃了一个开放的安全平台，该平台旨在在流氓特工逃跑之前对其进行实时捕获和隔离。 NVIDIA 的全新开放代理安全平台将 AI 代理监控转移到代理无法到达的芯片上。 它的软件部分 OpenShell 是一个 Apache 2.0 运行时，它对代理进行沙箱处理并强制操作员对文件、网络、工具和凭证进行限制。 其硬件部分 NVIDIA Sentry 是一个在 BlueField-4 数据处理单元上运行的参考设计，可以在几毫秒内隔离流浪代理。 在 Vera Rubin POD 中，每个托盘的 BlueField-4 位于节点到模型的唯一路径上，与主机隔离。由于特工在采取行动之前必须咨询模型，因此该位置使 Sentry 能够了解每一步和终止开关。