OpenAI의 고위험 액션 제약과 민감한 데이터 보호는 이 역동성의 핵심 요소로 프록시 워크플로우에 전면화되어 있습니다

OpenAI는 프록시 안티프롬프트 주입을 해체하다: 고위험 행동이 미리 제한되고 민감한 데이터가 워크플로우에 안전하게 포함된다

OpenAI는 에이전트가 프롬프트 인젝션을 어떻게 저항할 수 있는지에 관한 기술 논문을 발표했으며, 핵심 의미는 명확합니다: 진짜 위험은 악성 텍스트를 추가로 읽는 것이 아니라, 유도된 후 사용자를 위해 해서는 안 될 행동을 수행하는 에이전트입니다. 에이전트 제품의 경...