ToolNavs 发现实用AI工具
提交工具 登录

上下文工程

同一个模型,改几句话结果就像换了个人——变的往往不是模型,而是它这一轮到底看到了什么、哪些被排在前面。

上下文工程处理四件事:选择、排序、压缩、隔离。选择决定哪些材料进得来;排序决定系统规则、检索片段和工具返回谁优先;压缩把长文档折成结构、结论和关键证据;隔离防止脏数据、注入内容和无关历史互相污染。知识库答非所问时,多半是切块错了、排序乱了或关键条件被挤出了窗口。
AI 回答太笼统怎么办?别急着补背景,先改这三个问法

AI 回答太笼统怎么办?别急着补背景,先改这三个问法

AI 回答太笼统,多半不是模型不会答,而是任务没限定对象、范围和输出形态,先改这三处,答案通常就能直接用。 很多人第一反应是继续补一大段背景,其实顺序反了。背景再多,如果没说清写给谁看、按什么标准判断、最后要交什么形式,它还是只能给一份谁都能用的通用稿。 为什么会笼统 笼统的根源是问题太开放。你只说...

Admin
46
AI 回答到一半就停了怎么办?先分清是写满了、断线了还是被截断了

AI 回答到一半就停了怎么办?先分清是写满了、断线了还是被截断了

AI 回答到一半就停了,先看它停在哪里,基本就能判断原因:停在半句话、半行代码或表格中间,多半是单次输出写满了;页面突然报错、刷新后内容缺了一截,多半是网络或服务中断;只输出几句就停下,可能是内容被主动停止,也可能是误触了停止按钮。 先别刷新,先判断停法 遇到中断,第一反应不要刷新页面。刷新后,部分...

Admin
78
和 AI 聊太久它开始忘事怎么办?先认清上下文快满的四个信号

和 AI 聊太久它开始忘事怎么办?先认清上下文快满的四个信号

上下文快满了,AI 就会开始忘事,这多半不是它态度变差,而是早期内容已经被截断或压缩。最稳的做法是先让它总结要点,再新开一段对话、贴上总结继续,而不是在原对话里反复提醒它“你记错了”。 四个信号,说明上下文快满了 第一个信号是忘了开头交代的设定和名字。比如你一开始就说好的人物名、称呼、格式要求,聊到...

Admin
67
分词器是什么?同一句话,为什么换个模型 token 数就不一样

分词器是什么?同一句话,为什么换个模型 token 数就不一样

分词器是你发给模型的那句话最先经过的部件,它不负责理解,只负责切分和编号。文字送进大模型之前,分词器会先把它切成一个个 token,再换成词表里的编号,模型读到的就是这串编号。想通这一点,不少困惑就有答案:token 既不是字,也不是词。 它切的不是字,而是出现概率 目前主流的分词器多采用 BPE ...

Admin
74