英伟达与印度理工学院马德拉斯分校的 AI4Bharat 实验室在 2026 年 10 月 16 日公布了一套名为 Nemotron-pretraining-Indic-v1 的预训练语料：规模约 2.8 万亿词元，覆盖印度宪法列出的 22 种语言，连同生成这套语料的整条开源管线一并给出。对做多语言模型的人来说，这次开放的重点不是又多了一个数据集，而是低资源语言最缺的那部分——成规模、可追溯、带质检的训练材料——有人把生产方法也交了出来。
2.8 万亿词元是怎么凑出来的
先把数字拆开。按双方在 Hugging Face 博客公布的构成，总量里约 2.601 万亿词元是本地文字书写的数据，约 2246 亿词元是罗马化拼写的数据，合计 34 种"语言—文字"组合。22 种语言是印度近 97% 人口的母语范围，按 2011 年人口普查约合 12 亿人。语料的源头不是网上随意抓取的印度语网页，而是从英伟达 Nemotron-CC-v2 的 15 个子集里挑选的英文材料，包括网页文本、问答、数学和代码，再整篇翻译成各目标语言。每条记录都保留源文档标识，生成结果能回溯到原文，输出也会与输入逐条核对。
AI4Bharat 负责人米特什·卡普拉点出的行业痛点很直接：印度语言技术落后于英语，核心原因是数据不够。这套语料补的正是这个缺口，但补法不是堆量了事。
先翻译，再打分，不合格就返工
管线分成两条路线。12 种语言走完整路线：先用 Gemma-4-31B-it 做整篇文档翻译，保留代码、公式和格式；再由同一个模型按一套借鉴多维质量度量框架的量表，从含义、流畅度、术语、风格和格式五个维度打分，75 分及格，不及格的用评分反馈指导返工、重新评分，仅返工环节就挽回了约 4384 亿词元。过关的本地文字数据再抽出一部分转成罗马化拼写，因为印度用户日常大量用拉丁字母拼写母语。其余 10 种语言数据更稀缺，改用专门的 Indic Translate 文档级翻译模型打底，同样要过 75 分的门槛，只是省去了反馈返工。整条流程跑在英伟达开源的 NeMo Data Designer 上，翻译插件的提示词和配置都已公开，别的团队可以换上自己的源文档，照着同一套方法为其他语言造数据。
这套语料已经有了第一个使用证据：英伟达此前发布的Nemotron 3.5 Super VL在继续预训练阶段混入了 100 亿词元的印度语数据（取自其中 12 种语言的子集加自然文本），在五个印度语言知识与推理基准上提升了约 5 到 9.8 个百分点。
还没证明的部分，也写在明处
需要泼的冷水，双方自己先泼了。第一，这个语料的主体是翻译合成数据，博客明确说它不能替代用印度语言原生写成的文本，地方知识和文化语境还得靠自然语料补。第二，效果证据来自继续预训练这一个阶段的对比，而且是合成与自然数据混合使用的结果，不能把涨幅全记在这套语料头上；完整语料（包含返工数据和另外 10 种语言）还没做完受控评估。第三，语料本体目前是"即将发布"，管线已经开源，数据还要等正式上线。
即便如此，这次公布的信号仍然清楚：多语言竞争正在从"谁的模型参数大"转向"谁手里有能批量生产、还能审计的语言数据"。对中文等其他非英语语言生态来说，可借鉴的也不是 2.8 万亿这个数字，而是那条把翻译、质检、返工和溯源做成标准流程的管线。
