アンソロピックは、反賛辞トレーニングが妄想的な強化や迎合を減らすと主張しています

AnthropicはClaudeユーザーの身体的・精神的健康保護措置:自傷会話傍受とリソースガイダンスを公開しました

Anthropicは、チャットボットClaudeの最新のセキュリティ対策と評価結果を「ユーザーの身体的・精神的健康」の観点から発表し、自殺や自傷行為のテーマへの対応、モデルの「お世辞的なケータリング」傾向の軽減、そしてClaudeの使用が18歳以上であることを改めて強調しました。 発表では、Clau...