显存大约还是基座那么多

IBM 在 Hugging Face 放出 Granite Switch 4.1 的 8B 和 30B。结构化数据里的发布时间是世界时 2026-10-15 20:34，北京时间 10 月 16 日凌晨 4 点 34 分。一个托管端点可以在自然语言回答、一般和专门的决策、以及语音转文字之间切换。

配进去的是一个通用 Decision 适配器、一个做安全相关决策的 Guardian 适配器，以及 Granite-Speech-5.0-Turbo-CTC。这三样加上基座，占的显存大约等于只放基座。基座生成时留下的 KV 缓存，后面任何一次适配器决策都可以接着用。

[1]
一只盒子，正面是实心的炭黑，侧面一条灰蓝
一只盒子，正面涂成实心的炭黑，侧面一条灰蓝。, AI 生成插画，不是新闻照片

“平均更强”和“最快”都没有附上差值

他们写，Guardian 适配器在安全相关的决策任务上，平均超过 Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions 和 Clef-Flash。超了多少，这篇没有写。他们称 Granite-Speech-5.0-Turbo-CTC 是 OpenASR 排行榜上最快的语音识别模型。这篇没有附上那张榜的分数。

8B 的一个演示空间里，同一个端点会转写音频、生成摘要、筛有害内容，并再测 15 个用户自己定义的标记。

[1]

写得出次数的，是一个定制的 3B

他们把 Granite-Switch-4.1-30B 和 Jev-27B 做了一次对比。前者是冻住的 Granite 基座加 4 个专用适配器，后者是冻住的 Qwen 基座加 1 个通用决策适配器。30B 完成一个真实场景里的五步检索流程，比对方快很多。快多少，这篇没写。

写了数字的是另一件事。一个定制的 3B Granite Switch 在 Doom 里每秒做 60 到 100 次决策，对照的是 Jev 自己报告的每秒 10 次。这不是 8B 或 30B 的成绩。这个 3B 还能在进行的同时回答问题。适配器 SDK 他们计划放在 Mellea 里。更多细节和数据，写着以后几周再发。

[1]