提示词注入(Prompt Injection)是什么?为什么网页、PDF 和知识库都可能变成影响模型的入口
提示词注入(Prompt Injection)指的是:攻击者把一段会影响模型行为的指令,偷偷塞进模型可能读取的内容里,让模型偏离原本该遵守的任务或规则。它不一定长得像“恶意代码”,很多时候只是混进网页正文、PDF 文档、知识库内容、表格备注,甚至一段看似普通的话。 为什么它不是传统意义上的漏洞 传统...
提示词注入(Prompt Injection)指的是:攻击者把一段会影响模型行为的指令,偷偷塞进模型可能读取的内容里,让模型偏离原本该遵守的任务或规则。它不一定长得像“恶意代码”,很多时候只是混进网页正文、PDF 文档、知识库内容、表格备注,甚至一段看似普通的话。 为什么它不是传统意义上的漏洞 传统...
重排序(Reranker)是检索系统里负责“二次挑选结果”的那一层。它通常出现在初步召回之后,用来把一批“看起来都像相关”的片段重新排一遍顺序,尽量把真正最相关的内容顶到前面。很多知识库系统不是没搜到,而是搜到后排错了,模型最后吃到的是次优材料,这时就轮到 Reranker 发挥作用。 它和 Emb...
上下文工程(Context Engineering)不是把提示词写得更花,而是系统性决定“模型这次到底能看到什么、先看到什么、该忽略什么”。如果说提示词工程更像写一句好问题,那么上下文工程更像在搭整个输入环境。很多人觉得 AI 任务不稳,是模型不够强,其实常常是上下文喂得太乱。 它和提示词工程到底差...
OpenClaw 和 Hermes 经常被放在一起聊,但它们不是同一个东西。简单说,OpenClaw 更像“工作区驱动”的 agent 体系,Hermes 更像把 agent、记忆、自动化和服务整合到一起的运行时。你如果只记一句话:OpenClaw 偏文件和工作区,Hermes 偏完整平台和迁移路径...
Temperature 和 Top-p 都是在控制模型“怎么选下一个词”。简单说,它们影响的是回答有多保守、多发散。温度越低,模型越倾向选最稳的词;温度越高,模型越敢尝试不同表达。Top-p 则是在“保留哪些候选词”这件事上做筛选。 这两个参数常被一起提起,因为它们都在调节生成时的随机性。你看到 A...
System Prompt 可以理解成“放在更高层的规则”。它不是普通用户随手输入的那句提示词,而是先于对话存在、用来规定模型角色、边界和行为方式的基础指令。很多聊天机器人之所以风格稳定,背后都少不了它。 普通提示词更像临时任务,比如“帮我写一段介绍”。System Prompt 更像长期设定,比如...
Token 可以理解成模型处理文本时的“最小工作单元”。它不一定等于一个字、一个词或者一个标点,更像是模型自己切出来的片段。英文里一个单词可能拆成几个 token,中文里一个短句也可能被拆成多个 token。 这件事看起来抽象,但它直接影响三件最现实的事:你能塞多少内容进去、一次对话会花多少钱、模型...
Transformer 是一种神经网络架构。它之所以重要,不是因为名字响,而是因为它把“并行处理”和“上下文建模”这两件事做得很好。今天你看到的大多数大语言模型,本质上都离不开它或它的变体。 在 Transformer 之前,很多模型更依赖循环结构,一步一步读文本,速度慢,长距离依赖也容易掉链子。T...