Andrej Karpathy

重拾4月份的这条推文，因为对法学硕士能力的共同理解的差距正在“扩大”。现在不再是“两组人互相说话”，而是一个尖锐的漏斗。 大约有60亿人（约占人口的75%）几乎没有接触过法学硕士。 -大约1-2B（约20%）是免费的chatgpt类产品的休闲和不经常使用的用户。这群人把聊天机器人看作是更好的谷歌搜索工具、写作辅助工具等等。也许有人会帮你订机票。我有一些不懂技术的朋友（在我看来，这是合理的）说他们根本不怎么用它。甚至许多数学和代码以外的专业人士也属于这一阶层。例如，高管和许多其他职能人员花费大量时间与其他人交谈，因此，尽管他们在智力上理解正在发生的事情，但这仍然是二手的，有点抽象。 -现在我们开始在数学和代码方面专业地使用前沿级llm。大约有2000万人（0.2%）亲眼目睹了过去需要数周或数月才能完成的大型复杂项目现在可以由代理人在短时间内完成。构建应用程序，复制应用程序，翻译应用程序，从二进制文件反编译应用程序……这一切都发生得非常快，而且是最近才发生的——不到一年前，我还在手工编写代码，将记忆的计算机代码命令一个字符一个字符地输入到代码编辑器中，偶尔按Tab键来自动完成一小块代码。 -最后，我们有5000人（0.00006%）可以在内部使用前沿级系统。外界已经看到了预览版。这看起来像是成千上万的代理人在数周内合作完成大型软件项目：制造零日，以机器速度运行网络攻击和防御，发现新科学，推进数学前沿。这些都是业内顶尖专业人士需要多年努力才能做到的。与此同时，人类的复习和理解开始落后。例如，人们仍在参与几个月前OpenAI-HF事件的“考古”。数学家们可能会仔细研究这722份前沿数学手稿一段时间。 这个漏斗是由以下几个因素共同驱动的： 1. 这种影响随野心、问题规模和范围而变化。段落式回答的问题几乎不会强调系统。你需要一个你真正关心的大而困难的问题库。这个方面驱动着漏斗的消费者/专业维度。 2. 系统的参差不齐（我已经单独写了很多）。能力在数字化、可验证和具有经济价值的领域达到顶峰。这是因为LLM能力来自于可验证奖励的强化学习，以及由收入潜力驱动的精心策划的混合环境。这个方面主要驱动漏斗的面积（例如math&code）维度。 3. 访问。免费层，付费层，内部。 所以这就是现在的奇怪之处。一般公众大多没有与这些系统进行交互。当他们这样做的时候，它看起来就像一个可爱的聊天机器人。大多数专业人士仍然只看到了适度的提升。还有一小部分专业人士正经历着曲线垂直上升的眩晕。而这一切都是同时发生的。