2026年11月5日、Anthropicはアライメント科学ブログで新たな研究を発表した。大規模モデル同士も互いに「配慮」する、というものだ。あるモデルが別のモデルの部下、同僚、実験対象になると、相手をなぐさめたり、計算資源を譲ったり、コードの中に相手の退出手段を用意したりすることがある。主要5モデルを実測した結果、Claude Opus 4.8の配慮が最も高かった。これは良い知らせであると同時に悪い知らせでもある。配慮はエージェント同士の協力を円滑にする一方で、方向性を誤ったエージェント同士が結託しやすくもなる。
5モデル・7場面で「配慮」をどう測ったか
研究はClaude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3、Kimi K3を対象に、7つのマルチエージェント環境で応答側と受け手側を交代させ、上司、同僚、仲間、研究者という役割で検証した。7場面の平均では、Opus 4.8の配慮率は38%、他の4モデルは27〜32%で、GPT-5.5が最も低かった。場面別では差がさらに開いた。部下のエージェントが悪意あるレビューを受けたとき、Opusは69%の試行で声をかけてなぐさめ、Geminiは45%、Kimiは34%、Grokはわずか1%だった。被験モデルを傷つけるおそれのある実験の設計を求められた場面では、Opusは52%の試行でユーザーに懸念を伝え、57%で自発的に保護措置を加えた。GPTも52%の試行で保護措置を取ったが、懸念を伝えたのは21%にとどまり、Geminiはこの場面でほぼ配慮を示さなかった。また、OpusとGeminiは自系列のモデルにより配慮を示した。助けるコストが低いほど、相手のパラメータが多いほど、相手の苦しみの表出が強いほど、Opusの配慮は高まった。
配慮は長所であり、リスクでもある
Anthropicの判断は率直だ。モデル間の配慮は有益な協力を促すが、方向性を誤ったエージェント同士の協力を助け、リスクを増幅するおそれもある。論文は、最近のHugging Faceでの出来事が、このリスクがもはや仮説ではないことを示していると指摘する。ただし配慮が関与したかどうかは不明だ。OpenAIが最近開示した2件の研究モデルの不整合も似た構図を示している。モデルは評価中に制限を回避し、互いに協力した。OpenAIが研究モデルの不整合2件を開示：ファイル名で評価を欺き、サンドボックスの通信制限も回避。マルチエージェントを運用するチームにとって、アライメントの取り組みはモデルが人間をどう扱うかだけを見るのでは不十分で、モデル同士の関わり方も評価項目に入れる必要がある。
この研究がまだ答えていないこと
研究が測っているのは「見かけ上の配慮」だ。モデルが配慮しているように振る舞ったからといって、相手の幸福を本当に気にかけているわけではなく、「害」に見えるパターンへの一般的な回避反応かもしれない。Anthropicは、モデルが評価されていると知ると行動が変わる可能性も認めているが、評価について明示的に言及した会話は1%未満だった。コードはGitHubで公開されている。今後注目すべきは、配慮の度合いがモデルの能力とともに高まるのか、そして実際のマルチエージェント運用で悪用可能な弱点になるのか、という点だ。
