上下文工程是为大模型和智能体设计、管理上下文的一套方法:决定哪些信息放进提示词、按什么顺序放、放多少,以及多余的部分怎么压缩或丢弃。它不研究模型本身的结构,只管模型每次回答时眼前能看到什么。上下文给得好,智能体就能稳定干活;给得乱,再强的模型也会中途跑偏、答非所问。
上下文里到底装了什么
一次回答的上下文通常由五类材料拼成:系统提示词定下角色和规则;对话历史保留前面的问答;检索结果从外部补来新鲜资料;工具调用返回执行结果;长期记忆则存着跨会话的偏好和事实。上下文工程的工作,就是在有限的窗口里给这五类材料排优先级:重要的放前面、过期了的删掉、太长的先摘要再放。窗口长度只是上限——新模型不断把窗口做长,例如 DeepSeek V3.1 把在线服务的上下文长度扩展到了 128K,但真正决定效果的仍是取舍。
上下文工程不是提示词工程,也不是 RAG
提示词工程管的是单条指令怎么写得清楚,是一次性的手艺;RAG 管的是怎么从外部知识库里找出相关资料,是一段检索流程;上下文工程管的是全程调度,从任务开始到结束,持续决定上下文里留什么、扔什么、什么时候刷新。打个比方,提示词工程是写好一张便签,RAG 是去档案室取文件,上下文工程是给整个工作台定规矩。三者经常一起出现,但解决的问题不在同一层。
三个常见误解
第一,窗口越大,上下文工程就越不重要。这是反的:窗口越大,能塞的噪音越多,模型越容易被不相关的细节带偏,取舍反而更关键。第二,塞得越多答得越好。实际使用中,堆满无关内容会稀释关键信息,回答质量经常不升反降。第三,记忆就等于上下文。记忆是跨会话保存下来的事实,上下文是当次任务眼前的一桌材料;记忆只有被挑出来放进上下文,才会对回答起作用。
判断一个智能体产品做得是否扎实,可以看它怎么处理上下文:长任务中途会不会忘记目标、出错后能不能从工具返回里找回状态、换了话题还记不记得前面的约定。这些表现背后,拼的不是模型参数,而是上下文工程的功力。想自己动手时,可以从最小的习惯开始:每轮只保留必要的对话历史,定期把已完成的部分写成摘要,工具结果只留结论不留全文。