Anthropic解释Claude减少sycophancy的安全意义

Anthropic发布Claude用户身心健康防护措施：自伤对话拦截与资源引导

Anthropic发布公告，介绍其聊天机器人Claude在“用户身心健康”方面的最新安全措施与评估结果，重点聚焦自杀与自伤话题的应对，以及减少模型“阿谀式迎合”的倾向，并再次强调Claude的18岁以上使用要求。公告指出，Claude并非专业医疗或心理替代服务，当对话出现自伤风险迹象时，应以同理回应...