大模型
讲清大模型这一技术品类:它是什么、靠什么能力成为 AI 应用的基础,选型时要看的关键维度,以及它的能力边界在哪。
讲清大模型这一技术品类:它是什么、靠什么能力成为 AI 应用的基础,选型时要看的关键维度,以及它的能力边界在哪。
首字延迟指的是你按下发送之后、模型吐出第一个字之前的那段等待,英文常缩写为 TTFT(Time To First Token)。它决定了你对一个 AI 产品“快不快”的第一印象:有的产品点完发送要愣三四秒才开始出字,有的几乎立刻往外蹦,差别往往就出在这段时间里,而不是模型本身写得慢。 第一个字出现之...
风清 V1.0 于 2026 年 10 月 17 日通过业务化评审,正式投入全国气象业务运行。消息在 2026 全国高性能计算学术大会上由国家超算互联网宣布:这套人工智能全球短中期集合预报系统由国家气象中心牵头,联合雄安气象人工智能创新研究院、国家气象信息中心与国家超算互联网共同研制,是我国首个数据...
广东备案大模型数量增至 195 款的消息,在 2026 年 10 月 16 日于广州举行的粤港澳大湾区生成式人工智能安全发展联合实验室成果发布会上正式披露。会上发布的《广东省备案大模型观察报告(2026)》显示,自 2023 年开展备案工作以来,广东的生成式人工智能服务备案量从 8 款增至 195 ...
模型崩塌指的是模型在反复用自己生成的数据训练下一代时,输出分布一轮比一轮窄,最后丢掉真实世界里那些少见但重要的部分。它不是模型突然变笨,而是一种慢慢收窄的过程:常见的说法被反复放大,罕见的说法先消失,错误则被当成标准答案固定下来。 尾巴是怎么丢掉的 真实数据里,大多数样本挤在中间,少数样本散在边缘,...
MAI-Base-2 的预训练已经完成。2026年10月15日,Microsoft AI 在官方博文《Frontier Pre-training at Microsoft AI》中公布了这款基础模型的细节:它是一个混合专家模型,总参数 2.8 万亿,每次推理只激活约 800 亿参数。在微软自备的留出...
位置编码是给句子里每个词额外附上的一组顺序信号,让模型知道哪个词在前、哪个词在后。注意力机制会把所有词两两比较,却天生不分先后:没有位置信息,「狗咬人」和「人咬狗」在它眼里就是同一堆词。位置编码补的正是这个缺口。 为什么注意力机制看不见顺序 注意力算的是任意两个词之间的相关程度,和词站在哪里无关,把...
少样本学习是让大模型只看几个示例,就照着示例的格式和标准完成新任务的一种用法。使用者不需要重新训练模型,只需要在提问时先给出两三组输入和期望输出,模型就会从这些例子里归纳出规律,再把同样的处理方式用到新内容上。它依赖的是模型在预训练阶段已经学到的语言和任务理解能力,示例起到的作用更像现场示范,而不是...
提示注入是把指令藏进模型会读到的外部内容里,让模型误把数据当成命令来执行的一种攻击方式。它不修改代码,也不破解系统,只是利用大模型会认真阅读上下文的特点,把要求混进网页、文档、邮件或图片文字中,模型读到后就可能照着做。 指令可以藏在哪里 提示注入分直接和间接两种。直接注入是使用者本人在输入里藏指令,...