アンソロピックは強化妄想を防ぐためにクロードのお世辞を抑えています

AnthropicはClaudeユーザーの身体的・精神的健康保護措置:自傷会話傍受とリソースガイダンスを公開しました

Anthropicは、チャットボットClaudeの最新のセキュリティ対策と評価結果を「ユーザーの身体的・精神的健康」の観点から発表し、自殺や自傷行為のテーマへの対応、モデルの「お世辞的なケータリング」傾向の軽減、そしてClaudeの使用が18歳以上であることを改めて強調しました。 発表では、Clau...