模型安全

提示词注入（Prompt Injection）是什么？为什么网页、PDF 和知识库都可能变成影响模型的入口

提示词注入（Prompt Injection）指的是：攻击者把一段会影响模型行为的指令，偷偷塞进模型可能读取的内容里，让模型偏离原本该遵守的任务或规则。它不一定长得像“恶意代码”，很多时候只是混进网页正文、PDF 文档、知识库内容、表格备注，甚至一段看似普通的话。 为什么它不是传统意义上的漏洞 传统...