Bloom 오픈 소스 도구 해석: Seed로 LLM 행동 평가를 자동으로 생성하고 실험을 재현합니다
1. 초록 Bloom은 오픈 소스 LLM 행동 평가 생성 프레임워크로, 연구자들은 "목표 행동"과 재현 가능한 시드 구성만 정의하면 Bloom이 자동으로 많은 트리거 시나리오를 생성하고 대상 모델과 상호작용하며, 검토 모델은 행동의 빈도와 강도를 점수 매기고, 빠르게 ...
AI는 오픈 소스입니다. • Admin •
88
Anthropic Bloom은 지침에 따른 장기 사보타주의 위험을 평가합니다
Found 2 related articles
