OpenAI推出Safety Bug Bounty计划：聚焦AI滥用与安全风险上报
OpenAI宣布推出公开的 Safety Bug Bounty 计划，重点征集产品中的 AI 滥用与安全风险问题。该项目是现有 Security Bug Bounty 的补充，主要覆盖传统安全漏洞之外、但可能造成现实伤害的场景。 目前范围包括代理型风险、第三方提示注入与数据外泄、OpenAI 专有信...
AI资讯 • Admin •
105
提示注入
找到 2 篇相关文章
找到 2 篇相关文章
OpenAI宣布推出公开的 Safety Bug Bounty 计划，重点征集产品中的 AI 滥用与安全风险问题。该项目是现有 Security Bug Bounty 的补充，主要覆盖传统安全漏洞之外、但可能造成现实伤害的场景。 目前范围包括代理型风险、第三方提示注入与数据外泄、OpenAI 专有信...
Anthropic发布 Claude Code 的 Auto 模式，定位为介于“手动逐次审批”和“完全跳过权限”之间的折中方案。该模式用模型分类器替代部分人工确认，目标是减少频繁点击带来的审批疲劳，同时拦截越权删除、凭证搜寻、向外部服务发送数据等高风险操作。 机制上，Auto 模式包含两层防护：一层...