ToolNavs 发现实用AI工具
提交工具 登录

大模型微调

讲透微调到底改了模型的什么行为,以及它和提示词优化、RAG 在成本与效果上的取舍,帮团队决定是否值得训练。

大模型微调是用额外训练让模型在回答风格、输出结构和特定任务上更稳定,常见做法有全量微调、LoRA 和 QLoRA。LoRA 只训练旁路小矩阵,显存和省钱优势明显,适合学行业术语、固定话术或图像风格;但如果基础模型没有某能力、数据又少又乱,微调也救不回来。