지식 기반 보안

즉흥 인젝션이란 무엇인가요? 웹페이지, PDF, 지식 베이스가 모두 영향을 미치는 모델의 진입점이 될 수 있는 이유

프롬프트 인젝션은 공격자가 몰래 모델의 동작에 영향을 주는 명령을 모델이 읽을 수 있는 범위에 넣어, 모델이 따라야 할 작업이나 규칙에서 벗어나게 만드는 것을 말합니다. 반드시 '악성 코드'처럼 보이지는 않지만, 종종 웹페이지, PDF 문서, 지식 기반 콘텐츠, 표 노...