Sam Altman

AI 进步有两种可能走向非常糟糕、而我们必须避免的方式。 第一，我们可能把未来的控制权输给 AI。这是不可接受的；我们毫不掩饰地站在人类一边，AI 必须始终服务于人。为此，我们需要确保对齐与安全技术始终领先于模型能力的进步。 第二，我们可能最终进入一个权力过度集中的世界。如果一个异常强大的 AI 被某一个人或公司用来把自己的世界观强加给所有人，结果可能极度反乌托邦。 避免这两种威胁需要走一条狭窄的中间道路；例如，一个国家可能获得过大权力。另一个例子是某一家实验室最终拥有过大权力。