AnthropicはClassifiers++をレッドチームのオフェンスとディフェンスで支持していますが、カバー範囲が不十分であるという懸念もあります

Anthropicが約1%の計算能力オーバーヘッドで『Constitutional Classifiers++: Combat Universal Jailbreaks』をリリース

2026年1月9日、Anthropicは「次世代憲法分類器」(Constitutional Classifiers++とも呼ばれる)を立ち上げるための研究論文を発表し、大規模モデルの「一般的な脱獄」攻撃に対する保護効率を向上させました。 関係者によると、新システムは本番環境での追加の計算能力オーバー...