JetBrains 10 月 16 日宣布,本地编程工具 Junie Local 从第一天就支持英伟达 RTX Spark,Windows 支持也从实验阶段改为稳定。在他们自己对 RTX Spark 的测试里,生成速度最高达到每秒 55 个词元。他们把这个数字称为该平台的初步性能基线,并写明进一步的推理优化已经在做。55 不是第三方复测,也不是一套已经公布的完整评测。
[1]
装上之后运行本地模式,它会读代码、改文件、跑测试。不收词元费,不设配额,代码不出本机。文末还写了免费、不用注册、不用订阅、不用额度、不用绑卡。RTX Spark 被写成 Blackwell GPU 加 Grace CPU,放在轻薄笔记本和小型台式机里。JetBrains 感谢英伟达提前给了机器,并一起做到发布。
[1]上下文窗口会按这台机器上 GPU 可用内存自动放大,内存多就能多留代码、工具输出和对话。推理上,他们写使用 Blackwell 的张量核心做 FP8 计算,并用推测解码先草拟几个词元再一起验证。这些是他们对自己实现的描述。页面说,等这些改进进入 Junie Local,会再分享评测。所以现在还没有那组后续数字。
[1]8 月 Junie Local 首次推出时,需要一台 64GB 内存的 M5 Mac。9 月他们给 24GB 显存的英伟达 RTX 卡做了实验性 Windows 支持,现在改为稳定。RTX Spark 需要 Arm 版 Windows 11,且至少有 24GB 内存可供 GPU 使用,原生运行。另一类是 x64 Windows 11,配 Ampere 或更新的、至少 24GB 显存的 RTX,文中点名 3090、4090 和 32GB 的 5090。另外需要 581 或更新的英伟达驱动,以及大约 20GB 磁盘来放模型。
[1]模型可以选 Qwen3.6-27B,或他们融合出来的 Qwen3.8-3.6-27B-blend。后者被写成保留了不少 Qwen3.8 的编程能力,以及 Qwen3.6 更短的推理。更多模型还在后面。安装程序会认机器、检查显卡和驱动,并装上推理引擎、模型和集成。具体的安装命令不写入这篇稿。
[1]