Anthropic은 Petri를 이용해 여러 차례 상호작용에서 나쁜 행동을 평가할 것을 제안합니다

Anthropic은 Claude 사용자의 신체적·정신 건강 보호 조치인 자해 대화 도청 및 자원 안내를 공개했습니다

Anthropic은 자사 챗봇 Claude의 최신 보안 조치와 평가 결과를 "사용자 신체적·정신적 건강"에 대해 발표했으며, 자살과 자해 문제에 대응하는 데 초점을 맞추고, 모델의 "미화화" 경향을 줄이며, 18세 이상 Claude 사용 요건을 다시 한 번 강조했습니다...