즉흥 인젝션이란 무엇인가요? 웹페이지, PDF, 지식 베이스가 모두 영향을 미치는 모델의 진입점이 될 수 있는 이유
프롬프트 인젝션은 공격자가 몰래 모델의 동작에 영향을 주는 명령을 모델이 읽을 수 있는 범위에 넣어, 모델이 따라야 할 작업이나 규칙에서 벗어나게 만드는 것을 말합니다. 반드시 '악성 코드'처럼 보이지는 않지만, 종종 웹페이지, PDF 문서, 지식 기반 콘텐츠, 표 노...
AI 백과사전 • Admin •
70
즉각 인젝션
Found 3 related articles
OpenAI, Safety Bug Bounty 프로그램 출시: AI 남용 및 안전 위험 보고에 중점을 두다
OpenAI는 자사 제품 내 AI 남용과 안전 위험에 초점을 맞춘 공개 안전 버그 바운티 프로그램을 출시한다고 발표했습니다. 이 프로젝트는 기존의 Security Bug Bounty를 보완하며, 전통적인 보안 침해 외에도 실제 피해를 초래할 수 있는 시나리오에 초점을 ...
AI 정보 • Admin •
105
Anthropic은 Claude Code 자동 모드를 도입했습니다: 권한 팝업은 건너뛰지만 보안 차단은 유지합니다
Anthropic은 Claude Code의 자동 모드를 출시하며, 이를 "수동 하나씩 승인"과 "권한 자체를 건너뛰는" 것 사이의 타협안으로 제시합니다. 이 모델은 일부 수동 확인을 모델 분류기로 대체하여 잦은 클릭으로 인한 승인 피로를 줄이고, 무단 삭제, 자격 증명...
AI 정보 • Admin •
105