Sam Altman

世界理应有信心：正在开发越来越强大 AI 的美国公司会负责任地行事，尤其是在进步轨迹已经明显变陡的今天。每一家前沿实验室都必须做到这一点；如果我们做不到，就没有理由继续来上班。 我们欢迎一套联邦框架，为前沿 AI 设定一致的安全要求。但我们不认为必须等到反垄断豁免或立法，才能开始提供这种信心。用一致的规则管理前沿风险，以便最大化收益，是个好主意（我们也对独立审计师这类想法感到兴奋）。 多年前，像我们这样的公司制定了负责任扩展政策（Responsible Scaling Policies）与准备度框架（Preparedness Frameworks）等。那些在当时是合适的，且主要关注已完成模型的部署，而不是开发过程中发生的事情。 如今转向关注安全开发与评估，将需要新的工具。例如，在 OpenAI，我们现在会在预期显著提升能力的前沿强化学习运行之前，明确制定安全论证（safety cases），这是在我们长期以来于模型发布前已做的安全工作之外的补充。 我们希望其他公司能从我们的方法中学习并提出自己的方案；我们认为，在未对齐、监控与安全方面的共享标准会带来更好的结果。我们期待与业内同事协作，制定这些标准的最佳版本。 当我们谈到「节奏控制」（pacing）时，我们的意思不是「停下来」。进步一直很快，也将继续很快。但它应当比本来可以达到的速度更慢一些；安全论证与监控这类干预有显著成本。 节奏控制完全值得付出这些成本；任何美国竞争压力的量级，都不应当为鲁莽开脱，或让能力跑到对齐与监控前面。 我们需要政府帮助的地方是国际协调。但首先我们应当尽我们自己所能去做。