OpenAIPrompt 주입 보호는 하나의 에이전트가 되기 시작했습니다 설계의 기본 계층이 점점 더 우선순위가 높아지고 있습니다

OpenAI는 프록시 안티프롬프트 주입을 해체하다: 고위험 행동이 미리 제한되고 민감한 데이터가 워크플로우에 안전하게 포함된다

OpenAI는 에이전트가 프롬프트 인젝션을 어떻게 저항할 수 있는지에 관한 기술 논문을 발표했으며, 핵심 의미는 명확합니다: 진짜 위험은 악성 텍스트를 추가로 읽는 것이 아니라, 유도된 후 사용자를 위해 해서는 안 될 행동을 수행하는 에이전트입니다. 에이전트 제품의 경...