OpenAIは、製品におけるAIの悪用と安全リスクに焦点を当てた公開の安全バグバウンティプログラムの開始を発表しました。 このプロジェクトは既存のセキュリティバグバウンティを補完し、従来のセキュリティ侵害以外の現実世界での被害をもたらすシナリオに焦点を当てています。
現在の範囲には、プロキシベースのリスク、サードパーティによるプロンプトインジェクションやデータ漏洩、OpenAIの独自情報流出、アカウントおよびプラットフォームの整合性に関する問題が含まれます。 一部のケースでは、少なくとも50%の再生産成功率が必要であり、実際に定量化可能な被害を反映しなければなりません。 一般的な脱獄、粗暴な出力、検索で簡単に入手できる情報はプログラム報酬の対象外です。
参加者はBugcrowdアプリケーションを通じて提出する必要があります。 OpenAIによると、報告は安全・セキュリティチームが担当し、一部の問題は元のセキュリティ侵害の懸賞金プログラムに移管される可能性があるとのことです。
よくある質問
Q: OpenAIのセーフティバグバウンティとは何ですか?
A: これは一般向けのセキュリティ賞金プログラムで、AIの悪用やセキュリティリスクに関する報告を受け取っています。
Q: OpenAIのセーフティバグバウンティとセキュリティバグバウンティの違いは何ですか?
A: 前者は主に悪用や被害、セキュリティシナリオのモデルに焦点を当て、後者は従来のセキュリティ脆弱性により重点を置いています。
Q: OpenAIの報酬でカバーされていない質問は何ですか?
A: 通常の脱獄、明らかな害のない戦略的回避、そして容易に公開されている情報出力は通常カウントされません。
Q: 研究者はOpenAIのセーフティバグバウンティに参加するにはどうすればいいですか?
A: 研究者はBugcrowdのページを通じて申請し、規則に従って複製資料を提出する必要があります。
