OpenAI hat die Einführung eines öffentlichen Safety Bug Bounty-Programms angekündigt, das sich auf KI-Missbrauch und Sicherheitsrisiken in seinen Produkten konzentriert. Das Projekt ergänzt die bestehende Security Bug Bounty und konzentriert sich auf Szenarien außerhalb traditioneller Sicherheitsverletzungen, die realen Schaden verursachen können.
Der aktuelle Anwendungsbereich umfasst proxybasierte Risiken, Third-Party-Prompt-Injection und Datenlecks, die proprietäre Informationsleckage von OpenAI sowie Fragen zur Konto- und Plattformintegrität. Manche Fälle erfordern eine Fortpflanzungserfolgsquote von mindestens 50 % und müssen reale und quantifizierbare Schäden widerspiegeln. Allgemeine Inhalts-Jailbreaks, unverschämte Ausgaben oder Informationen, die leicht über die Suche verfügbar sind, sind nicht für Programmprämien berechtigt.
Teilnehmer müssen über die Bugcrowd-Anwendung einreichen. OpenAI teilte mit, dass Meldungen vom Sicherheits- und Schutzteam bearbeitet werden und einige Probleme möglicherweise auch auf das ursprüngliche Sicherheitsverletzungs-Bounty-Programm übertragen werden.
FAQs
F: Was ist die Sicherheits-Bug-Belohnung von OpenAI?
A: Dies ist ein Sicherheits-Bounty-Programm für die Öffentlichkeit, das speziell Berichte über KI-Missbrauch und Sicherheitsrisiken erhält.
F: Was ist der Unterschied zwischen OpenAIs Safety Bug Bounty und Security Bug Bounty?
A: Ersteres konzentriert sich mehr auf Missbrauch, Schaden und Modell-Sicherheitsszenarien, während letzteres sich stärker auf traditionelle Sicherheitslücken konzentriert.
F: Welche Fragen werden von den Belohnungen von OpenAI nicht abgedeckt?
A: Normale Jailbreaks, Strategieumgehungen ohne offensichtlichen Schaden und leicht öffentlich zugängliche Informationsausgaben werden in der Regel nicht gezählt.
F: Wie können Forscher am Safety Bug Bounty von OpenAI teilnehmen?
A: Forscher müssen sich über die Bugcrowd-Seite bewerben und Reproduktionsmaterialien gemäß den Regeln einreichen.
