Ilya Sutskever

@ilyasut

Neocloud 的网络安全能力有限。下次智能体若成功失控(go rogue),它们会试图接管 neocloud,以便运行更多自身副本。这很糟糕。 因此:neocloud 应大幅加强网络安全,而每一家具有强大网络(安全)模型的公司都应该为此提供帮助。
打开原帖#511482
  1. 前沿

    10 亿美元给水厂和市政府:OpenAI 的 Daybreak 前线防御计划
  2. 研究

    五百万美元买尺子:Anthropic 把 AI 用户福祉评测交给外部专家
  3. 前沿

    最对齐,却更难盯:Astra 的思维链监视性在下降