Rohan Paul
@rohanpaul_ai
斯坦福大学的新论文发现,较小的人工智能模型每单位能源所带来的经济价值比最强大的模型要高得多。
既然世界受到能源/电力的限制,那么每个人工智能任务消耗多少能量确实应该被研究。
在这里,研究人员建立了焦耳与 GDP 的比值,它衡量的是人工智能工作的美元价值,减去其运行成本,即每焦耳所使用的能量。他们在 GDPval 的 220 项专业任务上测试了 5 个开放模型,涵盖 44 个职业。
> GLM 5.2 在每项任务中产生的净值最高,但 Gemma 4 31B 用 23% 的能量获得了 56% 的净值。
> 将 Qwen3.6-27B 从 1 个 H100 增加到 8 个 H100,任务时间仅减少 22%,同时能耗增加 3.2 倍。
> 尽管价格和速度几乎相同,但 GPT-OSS 120B 的能耗比 GLM 5.2 少 68%。
> 在 8 个 H100 芯片(而不是 1 个)上运行相同的模型,任务速度仅提高 22%,但能耗却增加 3.24 倍,而工作成本几乎相同
https://x.com/jonsaadfalcon/status/2118079242340814896/video/1