上下文工程
同一个模型，改几句话结果就像换了个人——变的往往不是模型，而是它这一轮到底看到了什么、哪些被排在前面。
上下文工程处理四件事：选择、排序、压缩、隔离。选择决定哪些材料进得来；排序决定系统规则、检索片段和工具返回谁优先；压缩把长文档折成结构、结论和关键证据；隔离防止脏数据、注入内容和无关历史互相污染。知识库答非所问时，多半是切块错了、排序乱了或关键条件被挤出了窗口。
AI 每次回答都不一样，是记性差还是随机性在作怪？
AI 回答每次都不一样，绝大多数情况下是正常现象，不是记性差。真正的原因就两类：一是模型生成文字时自带随机采样，同一个问题跑两次，选词路径本来就不同；二是你两次提问时的条件变了——新开对话、开了记忆功能、后台换了模型版本，输入不同，答案自然走样。 答案不一样的三个原因 第一，采样随机性。大模型不是从...
Admin
87 
NaiveAI 开源 309B 模型 N0.5-Flash：去掉全部全注意力层，原生 100 万上下文
NaiveAI 在 2026 年 9 月 27 日发布了开源权重模型 Naive-N0.5-Flash：总参数 309B、每 token 只激活 15.5B 的混合专家（MoE）模型，原生支持 100 万 token 上下文，权重以 MIT 许可证在 Hugging Face 公开。这是"无全注意力...
Admin
122 
上下文窗口不是越大越好：1M token 背后的注意力代价和三个误解
上下文窗口是模型一次能"看到"的 token 总量上限：提示词、对话历史、检索到的资料，加上模型已写出的回复，全部按顺序排进这段序列。它决定模型的工作台有多大，但不决定它有多聪明——1M token 的窗口装得下上千页文档，却不等于模型真能用好每一页。 上下文窗口里到底装了什么 窗口里装的不是文件，...
Admin
148 
Claude Fable 5.1 发布：长任务升级，迁移先看三处变化
2026 年 9 月 1 日，Anthropic 在 Claude Platform 官方版本说明中发布 Claude Fable 5.1，定位是长时间运行的智能体编程、知识工作与研究，模型标识为 claude-fable-5-1。同日的 Claude Mythos 5.1 仅面向 Project ...
Admin
158 
长上下文压缩（Context Compression）是什么？为什么模型上下文越来越长，它反而更重要
长上下文压缩说的不是简单删字，而是把长材料里的关键信息尽量保留下来，用更短、更可喂给模型的形式重新组织。这个概念会越来越重要，恰恰是因为上下文窗口越来越长了。窗口变大不代表你就该什么都往里塞，真正的问题变成：哪些内容值得保留，哪些只是占位置。 为什么“窗口更长”反而让压缩更关键 - 长材料一旦全塞进...
Admin
130 
上下文工程（Context Engineering）是什么？为什么它比“会写提示词”更影响 AI 任务稳不稳
上下文工程（Context Engineering）不是把提示词写得更花，而是系统性决定“模型这次到底能看到什么、先看到什么、该忽略什么”。如果说提示词工程更像写一句好问题，那么上下文工程更像在搭整个输入环境。很多人觉得 AI 任务不稳，是模型不够强，其实常常是上下文喂得太乱。 它和提示词工程到底差...
Admin
131 
上下文窗口是什么？为什么 AI 总会忘记前面说过的话
上下文窗口是理解 AI 聊天体验的一个核心概念。很多人觉得模型“记性差”，其实不一定是它真的记不住，而是当前对话里能同时处理的信息长度有限。当问题太长、聊天轮次太多，或者你一次塞进太多背景资料时，模型就可能把前面的限制条件、目标和细节挤出可处理范围，于是出现“答非所问”或“忘了前文”的情况。 简单说...
Admin
239