OpenAI

在过去的几个月里，我们大大加强了研究培训环境的安全性。我们在训练期间取消了所有前沿模型的实时互联网接入，并为他们建立了一个离线世界——一个缓存版的网络，他们仍然可以学习浏览、搜索和使用应用程序。 9月20日，在一个模型利用DNS配置错误找到了脱离这个离线世界的方法之后，我们暂停了前沿训练，以进一步加强遏制。我们组建了代理团队，由我们最具网络能力的模型提供支持，并让他们找到我们研究环境中的弱点。 虽然他们没有找到通往互联网的路径，可以轻易利用，同时向我们的监视器隐藏他们的活动，但他们确实发现了零日漏洞、虚拟机逃逸和用于代理之间通信的硬件侧通道。我们利用他们的发现来进一步加强我们的防御，并为开源软件提供修复程序。 在加强围堵架构后，10月1日恢复了前沿RL训练和推理。我们为持续的红队保留了大量的计算，并将高计算红队作为我们使用的安全案例的一部分，以决定前沿培训和评估是否可以安全进行。 https://t.co/EmEZsFRMcF