OpenAI는 자사 제품 내 AI 남용과 안전 위험에 초점을 맞춘 공개 안전 버그 바운티 프로그램을 출시한다고 발표했습니다. 이 프로젝트는 기존의 Security Bug Bounty를 보완하며, 전통적인 보안 침해 외에도 실제 피해를 초래할 수 있는 시나리오에 초점을 맞추고 있습니다.
현재 범위에는 프록시 기반 위험, 제3자 즉흥 인젝션 및 데이터 유출, OpenAI의 독점 정보 유출, 계정 및 플랫폼 무결성 관련 문제가 포함됩니다. 일부 사례는 최소 50% 이상의 재생산 성공률이 필요하며, 실제적이고 정량화된 피해를 반영해야 합니다. 일반 콘텐츠 탈옥, 무례한 출력, 검색을 통해 쉽게 얻을 수 있는 정보는 프로그램 보상 대상이 아닙니다.
참가자는 Bugcrowd 애플리케이션을 통해 제출해야 합니다. OpenAI는 보안 및 보안 팀이 신고를 처리할 것이며, 일부 문제는 원래 보안 침해 현상금 프로그램으로 이전될 수 있다고 밝혔습니다.
자주 묻는 질문
Q: OpenAI의 안전 버그 보상금이란 무엇인가요?
A: 이 프로그램은 AI 남용과 보안 위험에 관한 신고를 받는 대중을 위한 보안 현상금 프로그램입니다.
Q: OpenAI의 안전 버그 바운티와 보안 버그 바운티의 차이점은 무엇인가요?
답변: 전자는 남용, 피해, 보안 시나리오 모델에 더 중점을 두는 반면, 후자는 전통적인 보안 취약점에 더 집중합니다.
Q: OpenAI의 보상에서 다루지 않는 질문은 무엇인가요?
A: 일반적인 탈옥, 명백한 피해 없는 전략 우회, 그리고 쉽게 공개된 정보 출력은 보통 포함되지 않습니다.
Q: 연구자들이 OpenAI의 Safety Bug Bounty에 어떻게 참여할 수 있나요?
답변: 연구자는 Bugcrowd 페이지를 통해 신청하고 규칙에 따라 복제 자료를 제출해야 합니다.
