返回AI资讯
OpenAI推出Safety Bug Bounty计划:聚焦AI滥用与安全风险上报

OpenAI推出Safety Bug Bounty计划:聚焦AI滥用与安全风险上报

AI资讯 Admin 91 次浏览

OpenAI宣布推出公开的 Safety Bug Bounty 计划,重点征集产品中的 AI 滥用与安全风险问题。该项目是现有 Security Bug Bounty 的补充,主要覆盖传统安全漏洞之外、但可能造成现实伤害的场景。

目前范围包括代理型风险、第三方提示注入与数据外泄、OpenAI 专有信息泄露,以及账号和平台完整性相关问题。部分案例要求复现成功率至少达到50%,且需体现真实、可量化的危害。一般性的内容越狱、粗鲁输出或可通过搜索轻易获得的信息,不属于该计划奖励范围。

参与者需通过 Bugcrowd 申请提交。OpenAI表示,报告会由安全与安保团队分流处理,部分问题也可能转交到原有安全漏洞赏金计划。

常见问题

Q:OpenAI 的 Safety Bug Bounty 是什么?

A:这是面向公众的安全赏金计划,专门接收 AI 滥用和安全风险报告。

Q:OpenAI 的 Safety Bug Bounty 与 Security Bug Bounty 有何区别?

A:前者更关注滥用、伤害与模型安全场景,后者更偏传统安全漏洞。

Q:哪些问题不在 OpenAI 的奖励范围内?

A:普通越狱、无明显伤害的策略绕过,以及容易公开获取的信息输出通常不算。

Q:研究人员如何参加 OpenAI 的 Safety Bug Bounty?

A:研究人员需通过 Bugcrowd 页面申请并按规则提交复现材料。

推荐工具

更多