OpenAI는 에이전시 역량을 구매할 때 단일 효과보다는 보안 통제에 더 많은 주의를 기울입니다

OpenAI는 프록시 안티프롬프트 주입을 해체하다: 고위험 행동이 미리 제한되고 민감한 데이터가 워크플로우에 안전하게 포함된다

OpenAI는 에이전트가 프롬프트 인젝션을 어떻게 저항할 수 있는지에 관한 기술 논문을 발표했으며, 핵심 의미는 명확합니다: 진짜 위험은 악성 텍스트를 추가로 읽는 것이 아니라, 유도된 후 사용자를 위해 해서는 안 될 행동을 수행하는 에이전트입니다. 에이전트 제품의 경...