开源大模型
权重能不能下载,决定了模型的可控性归谁:能改、能私有部署、能断网运行,代价是推理服务、版本升级和故障排查都得自己扛。
权重能不能下载,决定了模型的可控性归谁:能改、能私有部署、能断网运行,代价是推理服务、版本升级和故障排查都得自己扛。
vLLM 在 9 月 24 日的官方博客中宣布,推理引擎正式支持基于 Gumbel-max 的文本水印功能。这项技术的目标很直接:让模型生成文本的来源可被追溯,同时保证加水印不改变模型的输出分布、不拖慢推理速度。按官方实测,Qwen3.5-27B 开启水印后,各项基准成绩都在误差范围内,吞吐变化在 ...
2026 年 9 月 16 日,美国联邦第九巡回上诉法院就 Doe v. GitHub, Inc.(案件号 24-7700)作出裁决:生成式 AI 编程工具输出的代码属于"新生成的作品",而不是训练数据的"复制件",因此不构成《数字千年版权法》(DMCA)第 1202(b) 条所禁止的删除或改动版权...
2026 年 9 月 23 日,多家媒体援引 The Information 的报道称,DeepSeek 创始人梁文锋在一场闭门投资者会议上透露:公司正把大模型训练的重心转向国产芯片,计划大规模采用华为昇腾(Ascend)系列做训练;与此同时,DeepSeek 正在训练一个 2 万亿参数的模型,并规...
2026年9月22日,小米 MiMo 团队通过官方渠道正式发布并开源 MiMo-V2.6 系列大模型:旗舰模型 MiMo-V2.6-Pro 与高效推理模型 MiMo-V2.6-Flash。两款均为原生全模态模型,支持文本、图片、视频、音频输入,MIT 许可,权重可下载、部署、商用。 46 分登顶:开...
2026 年 9 月 22 日,Hugging Face 在官方博客宣布,transformers 现在可以直接加载 GGUF 量化模型。对习惯在笔记本上跑模型的人来说,这意味着一条熟悉的 from_pretrained 调用就能搞定量化模型,不用再在 transformers 和 llama.cp...
2026 年 9 月 22 日,中国电信 AI(TeleAI)通过官方新闻稿发布 Xing4.0-29B-A4B,定位为下一代轻量 Agent 大模型。核心参数很直白:290 亿总参数、每 token 只激活 40 亿参数,采用 MoE 架构,上下文窗口 256K。官方强调,配合低比特量化与内存优化...
2026 年 9 月 22 日,Hugging Face 在官方博客宣布,transformers 正式支持直接加载 GGUF 量化模型。用户只需在 from_pretrained 里传入 gguf_file 参数,就能把 Hub 上的 GGUF checkpoint 装进熟悉的 transform...
今天(9 月 22 日)的 AI 速览:小米 MiMo-V2.6 开源发布,Pro 版在 Artificial Analysis Intelligence Index 拿下 46 分,成为开源权重模型第一;xAI 的 Grok 4.7 评测同步出炉,同获 46 分,编码智能体指标冲到 56;加拿大不...