강화된 안전성 판단을 위한 인류적 통합 프로브 + 외부 분류기

Anthropic이 약 1%의 컴퓨팅 파워 오버헤드로 Constitutional Classifiers++: Combat Universal Jailbreaks를 출시했습니다

2026년 1월 9일, Anthropic은 "차세대 헌법 분류기"(Constitutional Classifiers++라고도 함)를 출시하기 위한 연구 논문과 보고서를 발표하여 대형 모델의 "일반 탈옥" 공격으로부터 보호 효율성을 향상시키기 위해 발표했습니다. 관계자들은...