Rohan Paul

@rohanpaul_ai

人工智能正在进入批量经济:因为代币需求现在必须超过其价格崩溃的速度。 根据高盛的研究,代币总需求正在加速(从 2025 年 12 月到 2026 年 9 月增长了 18 倍),而前沿模型代币需求的增长速度要慢得多,同一指数约为 8-9 倍。 随着推理变得商品化,维持投资支出的门槛越来越高。 这意味着边际人工智能代币越来越多地来自更便宜、更小、开源或路由模型,而不一定来自计算量最大的前沿模型。这极大地改变了基础设施的数学。 这种差距对于超大规模的资本支出周期非常重要,因为前沿模型仍然是超大规模计算需求的重要来源,而竞争日益激烈的开源模型正在帮助压低平均代币价格。 因此,仅凭代币增长已经不足以解读人工智能基础设施周期。 相关变量是代币数量、代币定价以及服务每个代币所需的计算量之间的相互作用。 真正重要的是: 消耗的代币 × 每个代币所需的计算量 如果代币数量增长 18 倍,但更多代币转移到每个代币需要的 GPU 周期少得多的模型,则 GPU 总需求的增长速度可能会比代币需求所显示的速度慢得多。量化、蒸馏、推测解码、更好的缓存、更小的模型和模型路由都在朝这个方向发展。
打开原帖#511482
  1. 研究

    Andrew Ng:过去两周,引发对人工智能危险担忧的最响亮的声音取得了巨大进展
  2. 研究

    Jeff Dean:很自豪能与许多其他人在其中很多事情上合作
  3. 研究

    Jeff Dean:Waymo的安全数据越来越好