Anthropic은 리팩토링 공격이 해로운 조각을 무해한 조각으로 위장한다고 경고합니다

Anthropic이 약 1%의 컴퓨팅 파워 오버헤드로 Constitutional Classifiers++: Combat Universal Jailbreaks를 출시했습니다

2026년 1월 9일, Anthropic은 "차세대 헌법 분류기"(Constitutional Classifiers++라고도 함)를 출시하기 위한 연구 논문과 보고서를 발표하여 대형 모델의 "일반 탈옥" 공격으로부터 보호 효율성을 향상시키기 위해 발표했습니다. 관계자들은...