总参数 240 亿,每次只算 20 亿

Liquid AI 今天在 Hugging Face 发布 LFM2.5-24B-A2B。它是推理模型,总参数 240 亿,每个 token 激活 20 亿。结构沿用前一版:40 层,每个混合专家块 64 个专家、每次取 4 个。上下文从 3.2 万 token 加到 13.1 万,词表从 6.5 万加到 12.8 万。预训练从大约 17 万亿 token 加到大约 33 万亿。

指令模型和基座的权重都公开。它会先写出思路再给答案。

[1]
一台合上的炭黑色电脑,盖子是实心的,后边有一小线赭红。
一台合上的炭黑色电脑,盖子是实心的,后边有一小线赭红。, AI 生成插画,不是新闻照片

工具调用追上更大的模型,写代码没有

对照是 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it 和 Nemotron-3.5-Lightning。Liquid AI 说自己参数最少,工具调用和智能体八项里有五项不低于对照:AutomationBench、BFCLv4、ToolSandbox、LiveClaw 和银行业的 τ³-Bench。LiveClaw 是 48.09 对 Qwen 的 38.19。AutomationBench 是 27.69,下一名 8.72。

同一张表上,SWE-bench Verified(OpenCode)是 51.00,Qwen 是 66.20。GPQA Diamond 是 74.42 对 83.69。知识题和代码题他们自己也写成仍然落后,并建议知识任务另接检索或搜索。

[1]

速度是他们在自己的机器上测的

文中的解码速度是 Apple M5 Max 上每秒 184 token,单张 NVIDIA B300 在高并发下输出超过每秒 2.1 万 token。他们写成对照的混合专家模型里最快、占用内存最少。这是发布方的测量,不是第三方复测。

[1]