ToolNavs 发现实用AI工具
提交工具 登录
提示词注入(Prompt Injection)是什么?为什么网页、PDF 和知识库都可能变成影响模型的入口

提示词注入(Prompt Injection)是什么?为什么网页、PDF 和知识库都可能变成影响模型的入口

提示词注入(Prompt Injection)指的是:攻击者把一段会影响模型行为的指令,偷偷塞进模型可能读取的内容里,让模型偏离原本该遵守的任务或规则。它不一定长得像“恶意代码”,很多时候只是混进网页正文、PDF 文档、知识库内容、表格备注,甚至一段看似普通的话。 为什么它不是传统意义上的漏洞 传统...

Admin •
135
重排序(Reranker)是什么?为什么知识库“明明搜到了”却还是答不准

重排序(Reranker)是什么?为什么知识库“明明搜到了”却还是答不准

重排序(Reranker)是检索系统里负责“二次挑选结果”的那一层。它通常出现在初步召回之后,用来把一批“看起来都像相关”的片段重新排一遍顺序,尽量把真正最相关的内容顶到前面。很多知识库系统不是没搜到,而是搜到后排错了,模型最后吃到的是次优材料,这时就轮到 Reranker 发挥作用。 它和 Emb...

Admin •
163
上下文工程(Context Engineering)是什么?为什么它比“会写提示词”更影响 AI 任务稳不稳

上下文工程(Context Engineering)是什么?为什么它比“会写提示词”更影响 AI 任务稳不稳

上下文工程(Context Engineering)不是把提示词写得更花,而是系统性决定“模型这次到底能看到什么、先看到什么、该忽略什么”。如果说提示词工程更像写一句好问题,那么上下文工程更像在搭整个输入环境。很多人觉得 AI 任务不稳,是模型不够强,其实常常是上下文喂得太乱。 它和提示词工程到底差...

Admin •
129
Token 是什么?为什么一段话会被 AI 切成很多小块

Token 是什么?为什么一段话会被 AI 切成很多小块

Token 可以理解成模型处理文本时的“最小工作单元”。它不一定等于一个字、一个词或者一个标点,更像是模型自己切出来的片段。英文里一个单词可能拆成几个 token,中文里一个短句也可能被拆成多个 token。 这件事看起来抽象,但它直接影响三件最现实的事:你能塞多少内容进去、一次对话会花多少钱、模型...

Admin •
149

推荐工具

更多