즉흥 인젝션이란 무엇인가요? 웹페이지, PDF, 지식 베이스가 모두 영향을 미치는 모델의 진입점이 될 수 있는 이유
프롬프트 인젝션은 공격자가 몰래 모델의 동작에 영향을 주는 명령을 모델이 읽을 수 있는 범위에 넣어, 모델이 따라야 할 작업이나 규칙에서 벗어나게 만드는 것을 말합니다. 반드시 '악성 코드'처럼 보이지는 않지만, 종종 웹페이지, PDF 문서, 지식 기반 콘텐츠, 표 노...
AI 백과사전 • Admin •
71
시스템 프롬프트
Found 4 related articles
컨텍스트 엔지니어링이란 무엇인가요? 왜 AI 작업의 안정성에 '프롬프트를 작성할 수 있는' 것보다 더 큰 영향을 미치는가
컨텍스트 엔지니어링은 더 화려한 프롬프트를 쓰는 것이 아니라, 모델이 이번에 무엇을 볼 수 있는지, 무엇을 먼저 보는지, 무엇을 무시해야 하는지 체계적으로 결정하는 것입니다. 프롬프트 엔지니어링이 좋은 질문을 쓰는 것과 더 비슷하다면, 컨텍스트 엔지니어링은 전체 입력 ...
AI 백과사전 • Admin •
62
시스템 프롬프트와 사용자 프롬프트의 차이점은 무엇인가요? 왜 전자는 규칙 설정에 더 적합하고, 후자는 과제 배정에 더 적합한가
시스템 프롬프트와 사용자 프롬프트의 가장 큰 차이는 누가 먼저 나타나는지가 아니라 '책임이 무엇인가'입니다. 시스템 프롬프트는 동일성, 톤, 출력 경계, 금지, 고정 프로세스와 같은 장기적이고 안정적인 규칙을 작성하는 데 더 적합합니다; 사용자 프롬프트는 이 라운드에서...
AI Q&A • Admin •
95
시스템 프롬프트란 무엇인가요? 일반 프롬프트와 어떤 차이가 있나요?
시스템 프롬프트는 "더 높은 수준에 배치된 규칙"으로 이해할 수 있습니다. 이는 일반 사용자가 가볍게 입력하는 프롬프트 문구가 아니라, 대화 전에 존재하며 모델의 역할, 경계, 행동을 정의하는 데 사용되는 기본 지침입니다. 많은 챗봇이 안정적인 스타일을 가진 이유는 필...
AI 백과사전 • Admin •
170