权重可以下,8GB 是 INT8 这条路

Black Forest Labs 10 月 15 日放出 FLUX 3 Image Klein。机器时间是世界时 15:00,北京时间晚上 11 点。这是 5.6B 参数的开放权重,做文生图、图像编辑,以及最多 10 张参考图的生成。他们写,它和完整的 FLUX 3 Image 共用一组能力:原生 4K、按像素对齐的编辑,以及用边界框指定元素放在哪里,或把修改限制在一块区域里。

放出的有供微调的基座,和为低延迟做的步数蒸馏模型,还有在英伟达支持下做的 FP8、INT8 和 NVFP4。许可证是 FLUX Kommunity License。生成器权重在 BF16 下是 11.2GB,在 FP8 下是 5.6GB。INT8 可以在显存只有 8GB 的 NVIDIA GeForce RTX 上跑,通过 ComfyUI 或 Diffusers。蒸馏模型加上 INT8,一张 1MP 的图在 RTX 5090 上大约 4 秒,在 RTX 4070 上不到 9 秒,走的是 ComfyUI。

[1]
一块平放的板,板面是炭黑,一条边是灰蓝
一块平放的板,板面涂成实心的炭黑,一条边是灰蓝。, AI 生成插画,不是新闻照片

排在前面是内部评测,两边的计时不在同一个地方

他们写,内部评测里,Klein 在文生图、多参考图生成和图像编辑上排在这组对比的前面,也高于对比里的 Ideogram V4.5 和他们自己的 FLUX.2 [pro]。5.6B 是这组对比里最小的开放模型,对照是 Qwen-Image 2.1 的 7B 和 Krea 2 的 12.9B。相对 FLUX.2 [klein] 的 9B,文生图高 91 Elo,图像编辑高 70 Elo,参数少 38%。参数只计图像生成器,用的是各家自己报告的数字,文本编码器不算进去。Krea 2 不做图像编辑,所以不在编辑那一项里。

API 的延迟是端到端:从提交请求到一张做完的 1MP 图,含排队。Klein 在他们自己的服务器上计时。其他模型从客户端计时,含轮询和网络时间。Krea 2 用的是 Medium 档。它的 Large 档做文生图用了 31.1 秒。因此“延迟更低”是这套计时下的结果。

[1]

0.009 美元是每张 1K 图的起价

API 上的蒸馏模型名叫 flux-3-image-klein,带提示词上采样,以及他们称为像素修复的一步,未编辑区域按他们的说法保持原样。定价从每张 1K 图 0.009 美元起。在 NVIDIA GB300 上,蒸馏模型用 NVFP4 生成一张 1MP 图不到 0.6 秒。服务一个 LoRA,生成时间大约增加 5%。

许可证允许个人、以及年收入低于 500 万美元的公司免费商用,也允许研究和非商用。更大的机构要走他们的自托管许可或 API。安全上,他们写发布前做过内部红队,外部伙伴 Cinder 也评过,并称漏洞明显少于其他常见的开放权重模型。少多少,这篇没有写。这是 FLUX 3 家族放出的第二个开放权重。前一个是 FLUX 3 Action,7B,用于机器人控制。控制怎么实现,这篇没有写。

[1]