这不是新模型，语料也还不能下
NVIDIA 和印度理工学院马德拉斯分校的 AI4Bharat 在 Hugging Face 发了一篇博文。结构化数据里的发布时间是世界时 2026-10-16 01:44，北京时间上午 9 点 44 分。他们介绍 Nemotron-pretraining-Indic-v1：大约 2.8 万亿 token，覆盖印度宪法列出的 22 种语言，并写着即将放出。这 22 种语言被他们称为约 97% 印度人的第一语言，对应 2011 年人口普查的将近 12 亿人。人口数字是他们的句子。
同一篇写，Nemotron 3.5 Super VL 的继续预训练加了 100 亿印地语 token，取自这份语料的十二语言子集，再加上自然写成的印地语文本。这是已经公布的那个模型的一个训练阶段，不是又一次模型发布。他们计划以后的 Nemotron 模型继续用这份语料。计划不是已经发生的训练。
[1]
2.8 万亿是库存，不是一轮训练的预算
图 1 写，语料有 2,601.0 billion 原生文字 token，和 224.6 billion 拉丁字母转写 token。计数用的是 Gemma-4 分词器。一条记录可以是同一英语来源的译文或另一种文字，不是独立英语文档的篇数。
他们说的原生文字，指的是书写系统：正文仍是从英语译过去的。拉丁字母转写是用拉丁字母写的这些语言，不是英语。十二种语言两种写法都有，包括印地语、泰米尔语、泰卢固语、孟加拉语、马拉地语和乌尔都语等。另外十种只有原生文字。一共 34 种语言加文字的配置。token 数是留下的库存，含已经接受的改写，不是某一次训练跑了多少 token。换分词器，库存数字会变。
[1]十二种语言里，翻译模型同时当评委
十二种语言用 Gemma-4-31B-it 整篇翻译，再用同一个模型对照英语原文打分。他们只留下至少 75 分、满分 100 的结果。这是量表分，不是准确率。低分的按评语修改，再按同一条线重判。这一步找回 438.4 billion token，已经算进总数。十种语言改用 Bodhan AI 的 Indic Translate 翻译，再由 Gemma 打分，只出原生文字，不用评语返工。较长的桑塔利语按重叠窗口翻译再拼回全文。曼尼普尔语先译成孟加拉文，再转成它的梅泰文。
语料可以下载之后，他们要求钉住一个数据集版本。现在这句话还停在“放出之后”。质量检查主要是自动的，人工抽查的覆盖因语言而异。十二种语言这条路上，翻译模型就是评委。来源编号只能去掉处理过程里的重复，不是按意思去重。翻译扩大了英语材料能覆盖的范围，替代不了本来就用这些语言写成的文本，也不能保证本地知识。
[1]五个榜上涨，合成语料没有被单独拆开
技术报告比较的是印地语继续预训练开始前和这一阶段之后的检查点。设定预算是 100 billion 训练 token，其中 10%（100 亿）分给合成和自然印地语文本的混合，其余 90% 维持之前的相对比例。MILU、Indic MMLU-Pro、Indic ARC-Challenge、Indic ARC-Easy 和 Indic GSM8K 五个榜都涨了，涨幅从 4.98 到 9.82 个百分点。比较的是这一整段混合训练，不是合成语料单独的贡献。这是阶段检查点，不是两个最终发布版的对比。Indic GSM8K 不含奥里亚语，因为评测超出了服务的上下文长度。
相对上一代 Nemotron 3 Super，已经发布的 Nemotron 3.5 Super VL 在图上六个任务榜里有五个更高。IFEval 1.5 降了 2.04 分。IndiVibe 四个维度都有提升，但那是初步的条件偏好分，不是正面胜率。这些分数来自完整训练，包括这一段继续预训练和后训练，仍然不是把 2.8 万亿语料单独拿出来做的实验。
[1]