モデルの解釈可能性

Anthropic Research、感情表現のモデルを発見、AI安全性が内部メカニズム段階に入る

Anthropic Claude Claude の内部に認識可能な“感情概念”表現が存在すると主張する新しい研究を発表しました。モデルが実際に感じているという意味ではありませんが、意思決定パスに影響します。 AIセキュリティ にとって、これは議論を出力表現からモデル内部メカニズム層へと進めていく。 ...