AI モデル評価
問題セットを替えれば同じモデルでも順位は数段落ちます。ランキングは通知表ではなく、出題者の視点で切り取った一枚にすぎません。ベンチマークの作り方、採点器の設計、数字が膨らまない工夫を扱います。
問題セットを替えれば同じモデルでも順位は数段落ちます。ランキングは通知表ではなく、出題者の視点で切り取った一枚にすぎません。ベンチマークの作り方、採点器の設計、数字が膨らまない工夫を扱います。
Claude Opus 5.5がText Arenaで首位に、1509ポイントでテキストモデルの新記録 Claude Opus 5.5はリリースからわずか4日で、テキストモデルの競技場の頂点に立った。9月26日、LMArenaの公式アカウントがXで最新のランキングを発表し、Claude Opus 5...
9月25日、Arena(旧LMArena)がリーダーボードを更新し、GPT-6 Sol(Max)がAgent Arenaに正式参戦した。初成績はネット改善率+7.7%、44モデル中6位。4000件超の実際のエージェントセッションに基づく評価で、GPT-6 Solのリリースから2日後、第三者のクラウド...
Claude が理論物理学者のために「誰も解いたことのなかった」計算問題を解いた。9月25日、Anthropic は公式リサーチブログにゲスト投稿を掲載した。物理学者でサイエンスライターの Matt von Hippel 氏が、1か月前に AI 企業へ突きつけた挑戦を振り返る内容だ。学界が負担できる...
EU AI法の執行が紙の上の規則から実務へと移りつつある。9月17日、EU AI委員会(AI Board)は第9回会合を開き、「委員会の執行活動と優先事項」を議題の中心に据えた。9月初めには欧州委員会が30社超のAIプロバイダーに正式な情報提供要請を送付。9月24日の報道によれば、EU AIオフィス...
Gemini 4 は「初期ポストトレーニング」の段階に入り、Google は「年末よりもずっと前」の公開を目指している。2026 年 9 月 23 日、Google DeepMind の新責任者 Koray Kavukcuoglu が初の公開登壇で明らかにした。The Information 主催の...
2026年9月24日、事情に詳しい関係者と米政府高官の話としてPoliticoが報じたところによると、ホワイトハウスはOpenAIとAnthropicに対し、米国の審査が完了するまで英国のテスターへの新モデルの提供を保留するよう要請した。ロイターがこの報道を転電した。ホワイトハウス、OpenAI、A...
事実:AIのメンタルヘルス対話を採点するための公開の物差し 2026年9月23日、OpenAIは公式ブログでMentalHealthBenchの公開を発表した。これは、AIシステムが現実的なメンタルヘルスに関する対話でどのような応答をするかを測定するためのオープンベンチマークである。22カ国の80人...
2026年9月22日、第三者のAIベンチマーク機関 Artificial Analysis が GPT-6 Sol と GPT-6 Luna の独立評価レポートを公開した。両モデルの発表後、初めての本格的な第三者スコアカードである。価格は確かに半減したが、能力の変化は一方的ではない——伸びた評価もあ...