大模型
讲清大模型这一技术品类:它是什么、靠什么能力成为 AI 应用的基础,选型时要看的关键维度,以及它的能力边界在哪。
讲清大模型这一技术品类:它是什么、靠什么能力成为 AI 应用的基础,选型时要看的关键维度,以及它的能力边界在哪。
AI 越聊越慢,先开一个新对话,把关键背景重新说一遍,多数情况下速度立刻恢复。这是因为长对话的计算代价会越攒越高,新对话等于清零重算。如果新对话依然慢,再按下面三处排查。 第一步:缩短这轮对话 把不再需要的长对话关掉或另存为笔记,新对话只带必要的背景:目标、关键数字、已经定下来的结论。一次粘贴几万字...
KV 缓存是模型在生成文字时留下的中间计算结果。模型每算出一个词,都会把与它相关的键(Key)和值(Value)存下来;下一轮生成时,已经算过的部分不用重算,只算新增的词。KV 缓存这个名字就来自这两组被存下来的数字,它是长对话、大模型推理提速最常见的办法之一。 它到底省掉了什么 模型生成文字是一轮...
GitHub在2026年10月28日发布2026年度Octoverse报告,统计口径为截至2026年9月30日的过去12个月,覆盖公开与私有仓库。报告的核心结论是:开发者提交代码的规模创下新高,而智能体已经从尝鲜工具变成日常协作方式,代码评审正在成为人与智能体分工的新重心。 先看三组数字 - 推送1...
AI写长文前后设定总冲突,先停下来建一份设定表,再分段写、逐段对。一次生成太长、设定只存在对话里、上下文装不下,是冲突最常见的根因。把设定固化成一张表,写前贴表、写完回填,冲突会少很多。 冲突多半不是写错一句话 长文越写越长,早期设定会被后面内容挤出上下文;一次生成几千字,模型也很难同时守住所有细节...
上下文学习是指大模型在不更新参数的前提下,只靠提示词里给出的几个例子,现学现用、完成新任务的能力。模型没有被重新训练,也没有记住这些例子,只是把例子当作当前对话的临时参考,从中推断任务的格式、风格和判断标准,再应用到新的输入上。例子给得清楚,模型学得就准;例子含糊,结果也跟着含糊。 看一个具体例子 ...
Gamma在9–10月更新日志里推出Gamma 5,2026年10月27日的信息很明确:它不再只是套模板出几页,而是让智能体先做调研和设计,给一句话、文档、PDF、图片或旧演示文稿,几分钟内出成套打磨好的演示。 智能体先做调研,再出设计 Gamma 5从用户手头已有的材料出发,再围绕它搭故事:Sla...
AI推荐的电影总不对胃口,先给它三部你真正喜欢的和三部明确不喜欢的,再说清类型、年代和节奏偏好。只说“推荐一部好看的电影”,它只能按热门程度猜;给了喜欢和不喜欢的锚点,它才能判断你喜欢的是悬疑的推理过程,还是轻松的喜剧节奏,而不是只看评分高低。 它为什么总猜错你的口味 推荐跑偏通常不是评分不够高,而...
AI写的简历总像模板,先别急着换措辞,先把套话换成你自己的事实,再改句式。模板感大多来自没有具体数字、没有岗位动词、没有可验证的结果,读起来谁都能套用。按事实、动词、删减这个顺序改一遍,同一段经历就能变成只有你能写出来的版本。 先把套话换成具体事实 把“负责项目推进”“具备良好沟通能力”这类句子先删...