ToolNavs 发现实用AI工具
提交工具 登录

大模型

讲清大模型这一技术品类:它是什么、靠什么能力成为 AI 应用的基础,选型时要看的关键维度,以及它的能力边界在哪。

大模型是当前 AI 应用的技术底座:以 Transformer 架构为代表,靠海量文本训练获得理解、生成和推理能力,再经微调、提示词和工具调用接入具体场景。它的价值在通用能力带来的范式变化,不在参数规模本身;边界同样清晰:知识有截止、会产生幻觉、长任务离不开外部工具和流程约束。
模型对齐:大模型“会说话”之后,还要学会“好好说话”

模型对齐:大模型“会说话”之后,还要学会“好好说话”

模型对齐指的是在预训练完成之后,通过针对性训练,让大模型学会按人类期待的方式回答:诚实、不作恶、不瞎编、拒绝危险请求。预训练只教会模型"会说话",对齐才是让它学会"好好说话"。 对齐不是预训练,也不是微调 预训练:用海量文本训练,让模型学会语言规律和世界知识——这个阶段的模型只是个"文本续写器"。 ...

Admin
173