大模型微调
讲透微调到底改了模型的什么行为,以及它和提示词优化、RAG 在成本与效果上的取舍,帮团队决定是否值得训练。
讲透微调到底改了模型的什么行为,以及它和提示词优化、RAG 在成本与效果上的取舍,帮团队决定是否值得训练。
知识蒸馏是一种让小模型(学生模型)向已经训练好的大模型(教师模型)学习的技术。它由 Geoffrey Hinton 等人在 2015 年的论文《Distilling the Knowledge in a Neural Network》中正式提出,目标是让参数更少、速度更快的小模型保留尽可能多的大模型...
Gemini 4 正在进入"早期后训练"阶段,Google 希望它的发布时间"远早于"今年年底。这是 Google DeepMind 新任负责人 Koray Kavukcuoglu 在 2026 年 9 月 23 日的首次公开亮相中透露的消息。他在 The Information 主办的 AI Ag...
LoRA 是 Low-Rank Adaptation,中文常叫低秩适配。它是一种参数高效微调方法:不直接改动大模型全部参数,而是在部分层旁边增加较小的可训练矩阵,让模型学会新任务或新风格。 为什么它能省成本 全量微调就像重新训练一整台复杂机器,显存、数据和工程成本都很高。LoRA 更像给机器外挂一组...
微调是很多团队在做 AI 落地时都会遇到的一个词,但它常常被误解成“只要效果不好就去微调模型”。实际上,微调不是给模型简单加点资料,而是通过额外训练,让模型在回答风格、任务模式或特定输出结构上更稳定。也正因为它改动的是模型行为本身,所以微调和提示词优化、RAG 解决的问题并不一样。 如果你只是想让模...
一、基本信息 Dreamlook.ai 是面向 Stable Diffusion 生态的在线微调与生成平台,支持对 SD1.5 与 SDXL 进行分钟级微调,并通过统一工作流完成自定义模型训练与图像生成。平台提供按 Token 计费、可横向扩容的 API 与控制台,适配个人创作者、工作室与企业级批量...