ToolNavs 发现实用AI工具
提交工具 登录

大模型

讲清大模型这一技术品类:它是什么、靠什么能力成为 AI 应用的基础,选型时要看的关键维度,以及它的能力边界在哪。

大模型是当前 AI 应用的技术底座:以 Transformer 架构为代表,靠海量文本训练获得理解、生成和推理能力,再经微调、提示词和工具调用接入具体场景。它的价值在通用能力带来的范式变化,不在参数规模本身;边界同样清晰:知识有截止、会产生幻觉、长任务离不开外部工具和流程约束。
和 AI 聊太久它开始忘事怎么办?先认清上下文快满的四个信号

和 AI 聊太久它开始忘事怎么办?先认清上下文快满的四个信号

上下文快满了,AI 就会开始忘事,这多半不是它态度变差,而是早期内容已经被截断或压缩。最稳的做法是先让它总结要点,再新开一段对话、贴上总结继续,而不是在原对话里反复提醒它“你记错了”。 四个信号,说明上下文快满了 第一个信号是忘了开头交代的设定和名字。比如你一开始就说好的人物名、称呼、格式要求,聊到...

Admin
169
分词器是什么?同一句话,为什么换个模型 token 数就不一样

分词器是什么?同一句话,为什么换个模型 token 数就不一样

分词器是你发给模型的那句话最先经过的部件,它不负责理解,只负责切分和编号。文字送进大模型之前,分词器会先把它切成一个个 token,再换成词表里的编号,模型读到的就是这串编号。想通这一点,不少困惑就有答案:token 既不是字,也不是词。 它切的不是字,而是出现概率 目前主流的分词器多采用 BPE ...

Admin
145
模型对齐:大模型“会说话”之后,还要学会“好好说话”

模型对齐:大模型“会说话”之后,还要学会“好好说话”

模型对齐指的是在预训练完成之后,通过针对性训练,让大模型学会按人类期待的方式回答:诚实、不作恶、不瞎编、拒绝危险请求。预训练只教会模型"会说话",对齐才是让它学会"好好说话"。 对齐不是预训练,也不是微调 预训练:用海量文本训练,让模型学会语言规律和世界知识——这个阶段的模型只是个"文本续写器"。 ...

Admin
171