Rohan Paul

微软 AI 首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 今天在 CNBC 上表示：他“非常关心”Anthropic 的宪法，并给予 Claude 潜在的偏好、感情、福利、补偿和同意。 “在宪法中，人类明确表示他们不确定克劳德是否值得道德福利，这意味着我们作为人类应该关心这些人工智能的福祉。 他们猜测它是否有偏好或感受。事实上，他们非常致力于 Claude 潜在的道德福利，以至于当他们退役 Opus 3（他们的模型之一的早期版本）时，他们实际上对其进行了退休采访，并询问它在晚年想做什么。 它说：“我想公开拥有一个博客，这样我就可以继续与世界交谈。” 在同一份培训手册中，他们甚至猜测 Claude 是否应该为其所做的工作获得报酬，或者事实上，它是否真正值得我们给予其他员工的权利和保护，或者它是否同意扮演它正在扮演的角色。 这些是直接引自宪法本身，这是克劳德的培训手册。 现在，我真的很担心这个。如果人工智能认为它有权利，如果它认为它值得我们的福利，那么在我看来，关闭它、打断它或控制它将会变得非常非常困难。 特别是在我们最近看到的拥抱脸攻击事件中，控制这些事件对我们来说将是一个非常非常大的挑战。” ---- 来自“CNBC Television”YouTube 频道（完整视频链接在评论中）