Rohan Paul

Chamath 介绍所有重要的“预填充”和“解码”。在人工智能计算中。 预填充受计算限制；大规模并行 GPU 获胜，因此随着环境的发展，Nvidia 占据主导地位。 解码受内存带宽限制，因为每个下一个令牌都取决于扫描已生成的内容