Rohan Paul

经过多年的竞争，Meta 和 Apple 携手为 Mac 提供开放式人工智能。 Meta 发布了 Muse Spark Open 的权重，这是一个在 2 个链接的 Mac Studio 上运行的 816B 参数模型。 Apple 调整了其 MLX 框架的版本。每个令牌仅触发 42B 参数，因为模型将每个令牌路由到 256 个专家中的 8 个，因此每一步都会读取一小部分内存。 保存整个模型是困难的部分，因为 4 位 NVFP4 版本至少需要 700GB GPU 内存。 每个 M5 Ultra Mac Studio 为其 GPU 提供高达 512GB 的统一内存，因此 2 台机器保存模型，同时为每个令牌提供 1.2TB/s 的带宽。 在基准测试中，Muse Spark Open 确实以 89.2 的成绩在 MCP-Atlas 工具使用测试中名列前茅，这适合 Meta 构建它的编码代理。 该许可证允许免费商业使用，但需要“Built with Muse Spark Open”标签，以及针对 12 个月收入超过 2000 万美元的 API 模型卖家的单独元交易。 苹果尚未对 512GB Mac Studio 进行定价，4 台每台 256GB 机器的集群售价约为 38,000 美元。