Unsloth 的文档页写,MiniMax-M3.1-Flash 可以用 Unsloth Dynamic GGUF 在本地跑。页面把模型写成 MiniMax 的新 428B MoE 多模态模型,激活参数 23B,上下文 1M,面向编程和智能体用途。页面标记里的最近更新时间是 2026-10-26T14:34:36.230Z,旁边的可见标签是 Last updated。页面没有另印一条发布钟点。下面的数字是这篇文档自己的测量和规划,不是 MiniMax 发布稿里的句子。页首还感谢 MiniMax 提供了 day-zero access,没有把这个说法写成一个钟点。
[1]
页首写了三个加权数字。129.4GB 的 1-bit 大约达到 89.9% 的 top-1 accuracy。143.9GB 的 2-bit 达到 91.5%。249.4GB 的 4-bit,也就是 UD-Q4_K_XL,达到 98.0%。编程一项上,Q2 是 91.2%,Q4 是 97.6%。页面说加权跨了七类:编程、数学、对话、工具、多语言、推理和智能体用途。91.5% 是这句加权的结果。它还不是某一栏单独的数字。
[1]同一页后文的表用的是 top-1 agreement,不是页首的 top-1 accuracy。UD-IQ1_M 为 129.4GB,一般对话 86.2%,数学 94.9%。UD-Q2_K_XL 为 143.9GB,一般对话 88.5%,数学 95.7%。UD-Q4_K_XL 为 249.4GB,一般对话 97.3%,数学 99.0%。另一句给了区间:UD-Q2_K_XL 在七类上的 top-1 agreement 大约是 85.3% 到 95.7%,UD-Q4_K_XL 大约是 97.3% 到 99.0%。页面接着写,报出的数值是近似的读图。91.5% 落在 2-bit 的区间里。它不是表上一般对话的 88.5%,也不是数学的 95.7%。页面没有说明页首的 accuracy 和表里的 agreement 是不是同一次计算。把 91.5% 当成每一栏的分数,和这页对不上。
[1]内存写了两套。硬件表是 1-bit 134GB、2-bit 150GB、3-bit 176GB 到 208GB、4-bit 256GB、8-bit 272GB,8-bit 标了 lossless。表下按 16K 文本上下文和一个槽位估算,权重之外再留大约 20 到 32GiB。另一段写,2-bit 的 UD-Q2_K_XL 要按 160GB 以上的内存加显存来留,4-bit 要按 256GB 以上来留。2-bit 这一档,表是 150GB,正文是 160GB 以上。下载体积另算,UD-Q2_K_XL 是 143.9GB,权重 134.0GiB。页面还写,即使每个 token 只激活 23B 参数,量化后的全部权重仍要放进内存和显存。
[1]页面称 UD-Q8_K_XL 是从原始 safetensors 直接做的无损转换,MoE 层用 NVFP4,其余用 MXFP8,这一档留在 NVFP4 加 BF16。194.0GB 的 UD-Q3_K_XL 在七类 top-1 agreement 上被写成超过大约 230GB 的通用 IQ4_XS。页面没有七类原始日志,也没有 91.5% 的加权公式。推荐采样是温度 1.0、top-p 0.95,示例用 high。页面没有说 top-1 用的就是这组设置。下方另有 MiniMax 官方结果表,并写分数取决于设置和推理力度。那张表不是 top-1 agreement。
[1]