Rohan Paul

Emad Mostaque：AI 模型“基本上已经达到了人脑的效率”。 阿里巴巴的 Qwen 27B 通常需要约 60GB 内存，而 Prism ML 的一个团队通过用 1.5 比特而非 16 比特存储其数值，将其降至 6GB，同时保留了 95% 的性能。 在 6GB 下，它可以在树莓派上运行，“而树莓派的耗电量和你的大脑差不多。” ---- 完整视频见 “Tom Bilyeu” YouTube 频道（链接在评论中）