OpenAIOpenAI의 퍼블릭 에이전트 안티-프롬프트 인젝션 설계는 업계가 기업 조달 에이전트가 단일 포인트 효과 대신 보안 통제에 더 집중할 수 있는 능력을 재고할 수 있게 합니다

OpenAI는 프록시 안티프롬프트 주입을 해체하다: 고위험 행동이 미리 제한되고 민감한 데이터가 워크플로우에 안전하게 포함된다

OpenAI는 에이전트가 프롬프트 인젝션을 어떻게 저항할 수 있는지에 관한 기술 논문을 발표했으며, 핵심 의미는 명확합니다: 진짜 위험은 악성 텍스트를 추가로 읽는 것이 아니라, 유도된 후 사용자를 위해 해서는 안 될 행동을 수행하는 에이전트입니다. 에이전트 제품의 경...