AI 安全护栏

系统提示词和用户输入同处一个语言环境，注入与诱导都能改写判断，护栏必须落在模型之外：输入查文件与指令、上下文隔离来源、工具调用白名单、高风险动作留人工审批。Constitutional Classifiers++ 把越狱防护的额外算力压到约 1%。护栏拦不住全部攻击，但能把失效关在权限边界内。