Anthropic은 출력 혼란이 단어를 은유로 대체함으로써 여전히 침투할 수 있다고 지적합니다

Anthropic이 약 1%의 컴퓨팅 파워 오버헤드로 Constitutional Classifiers++: Combat Universal Jailbreaks를 출시했습니다

2026년 1월 9일, Anthropic은 "차세대 헌법 분류기"(Constitutional Classifiers++라고도 함)를 출시하기 위한 연구 논문과 보고서를 발표하여 대형 모델의 "일반 탈옥" 공격으로부터 보호 효율성을 향상시키기 위해 발표했습니다. 관계자들은...