Arvind Narayanan

超级人工智能的写作听起来会是什么样子？你可能期望它具有良好的人类写作的特征——比喻语言、高信息密度、创造新术语和有力——但拨到了 11。嗯，这就是 Claude 所做的，直到 Anthropic 最近因为用户投诉而将其拨回。对于我们大多数人来说，这听起来并不是超级智能。相反，神经语言的写作风格听起来像是“愚蠢的人对聪明人的看法”。 我们对信息密度和充满隐喻的写作的反应看起来就像我画的卡通图。超过一点，就完全适得其反。人类作家之所以不过分，并不是因为他们没有能力，而是因为他们意识到读者的认知负担。作为一名作家，最难学习的技能之一就是模拟读者的体验。 训练人工智能模仿平庸的人类写作很容易。但将其优化为（被认为是）好的确实很困难，而且当每个人都使用相同的几个人工智能模型时，我们很快就会厌倦他们的抽动，这一事实使事情变得更加困难。大多数克劳德主义单独来看都相当不错。我讨厌我不能再在写作中使用“承重”了。如果不是人工智能的过度使用，这将是一个巧妙的比喻。 一个更广泛的问题是，经济中的大多数任务是否像国际象棋，有一个可以优化的明确的绩效指标，或者它们是否像写作，其中质量是一种多维平衡行为，没有超越人类模仿的明确训练信号。