Bloomのオープンソースツール解釈:SeedでLLMの行動評価を自動的に生成し、実験を再現します
1. 要旨 BloomはオープンソースのLLM行動評価生成フレームワークです。研究者は「ターゲット行動」と再現可能なシード構成を定義するだけで、Bloomは自動的に多数のトリガーシナリオを生成し、ターゲットモデルとやり取りします。レビューモデルは行動の頻度と強度をスコアリングし、迅速なスケーラブル行...
AIはオープンソースです • Admin •
88
Anthropic Bloomは妄想的な迎合やその他のアライメント行動をレビューします
Found 2 related articles
