만약 Hermes 요원 AGENTS.md 가 가로채지면 어떻게 해야 하나요?
Hermes 에이전트가 잠재적 프롬프트 인젝션을 AGENTS.md 프롬프트를 보낼 때, 이를 우회하지 마세요. 이는 컨텍스트 파일이 위험한 모드에 도달했음을 나타내며, Hermes는 힌트 인젝션을 피하기 위해 이 규칙을 불러오지 않기로 결정했습니다. 올바른 접근법은 보...
AI Q&A • Admin •
70
Found 2 related articles
Hermes 에이전트가 잠재적 프롬프트 인젝션을 AGENTS.md 프롬프트를 보낼 때, 이를 우회하지 마세요. 이는 컨텍스트 파일이 위험한 모드에 도달했음을 나타내며, Hermes는 힌트 인젝션을 피하기 위해 이 규칙을 불러오지 않기로 결정했습니다. 올바른 접근법은 보...
프롬프트 인젝션은 공격자가 몰래 모델의 동작에 영향을 주는 명령을 모델이 읽을 수 있는 범위에 넣어, 모델이 따라야 할 작업이나 규칙에서 벗어나게 만드는 것을 말합니다. 반드시 '악성 코드'처럼 보이지는 않지만, 종종 웹페이지, PDF 문서, 지식 기반 콘텐츠, 표 노...