Back to Articles

AI 백과사전

Found 50 related articles - Page 6

즉흥 인젝션이란 무엇인가요? 웹페이지, PDF, 지식 베이스가 모두 영향을 미치는 모델의 진입점이 될 수 있는 이유

즉흥 인젝션이란 무엇인가요? 웹페이지, PDF, 지식 베이스가 모두 영향을 미치는 모델의 진입점이 될 수 있는 이유

프롬프트 인젝션은 공격자가 몰래 모델의 동작에 영향을 주는 명령을 모델이 읽을 수 있는 범위에 넣어, 모델이 따라야 할 작업이나 규칙에서 벗어나게 만드는 것을 말합니다. 반드시 '악성 코드'처럼 보이지는 않지만, 종종 웹페이지, PDF 문서, 지식 기반 콘텐츠, 표 노...

AI 백과사전 Admin
71
컨텍스트 엔지니어링이란 무엇인가요? 왜 AI 작업의 안정성에 '프롬프트를 작성할 수 있는' 것보다 더 큰 영향을 미치는가

컨텍스트 엔지니어링이란 무엇인가요? 왜 AI 작업의 안정성에 '프롬프트를 작성할 수 있는' 것보다 더 큰 영향을 미치는가

컨텍스트 엔지니어링은 더 화려한 프롬프트를 쓰는 것이 아니라, 모델이 이번에 무엇을 볼 수 있는지, 무엇을 먼저 보는지, 무엇을 무시해야 하는지 체계적으로 결정하는 것입니다. 프롬프트 엔지니어링이 좋은 질문을 쓰는 것과 더 비슷하다면, 컨텍스트 엔지니어링은 전체 입력 ...

AI 백과사전 Admin
62

추천 도구

더보기