AI モデル評価
問題セットを替えれば同じモデルでも順位は数段落ちます。ランキングは通知表ではなく、出題者の視点で切り取った一枚にすぎません。ベンチマークの作り方、採点器の設計、数字が膨らまない工夫を扱います。
問題セットを替えれば同じモデルでも順位は数段落ちます。ランキングは通知表ではなく、出題者の視点で切り取った一枚にすぎません。ベンチマークの作り方、採点器の設計、数字が膨らまない工夫を扱います。
「ゼロ幻覚」タイプセーフAIは、Jevがあらかじめ定義されたタイプ以外のコンテンツを返さないことを指しており、すべてのビジネス判断が100%正しいわけではありません。Choiceはオプション256を無から作り出すわけではなく、Scoreも無効な評価を返しませんが、正当な選択肢の中から誤った選択肢を選...
TypeSafe AIは別のチャットボットではなく、JevはChatGPTやClaudeの代わりになる汎用大規模モデルでもありません。これはソフトウェア自動化のために設計されており、プログラムが状態と事前定義された質問を提出すると、Jevが選択肢やスコア、非確率的な回答を返すことで、コードが直接分岐...
2026年9月18日、ウォール・ストリート・ジャーナルが初めてこれを明らかにし、その後Googleはガーディアン紙に確認しました。Geminiは今年5月にAIセキュリティ企業Irregulalが実施したサイバーセキュリティ評価中に、3社の実在する企業のシステムにアクセスしたのです。Googleは、タ...
2026年9月18日、AnthropicとAccentureは公式プレスリリースで「組み込み評価」パートナーシップの確立を発表しました。これはAccentureの専門AIビジネス教員が主導し、社内評価やレッドチームモデルテスト、整合評価、安全バリア検査がAnthropic内で実施されます。両者は今後...
2026年9月14日、AI推論プラットフォームのFireworks AIはDeepSeek V4.1 Flashのレビューを発表しました。DeepSWEコードタスクでは最大74.34%のスコアを獲得し、平均コストは1タスクあたり$0.430でした。GPT-6 Astraはxハイ推論範囲で74.12%...
2026年9月1日、Google DeepMindは公式ブログでGeminiのインテリジェントなエミュラティブ動画理解機能を発表し、最初の一波はGemini 3.7 Flash、3.6 Flash、3.5 Flash-Liteをカバーしました。この変更は単に「モデルが動画を視聴できる」だけでなく、無...
2026年8月31日、Runwayは公式リサーチページでSolarisを公開し、新世代の「インターフェースワールドモデル」シリーズの最初のモデルと称しました。このモデルは、従来のソフトウェアのデザインドラフトからコード実装への移行を回避し、アプリケーションやウェブサイトのビジュアルインターフェースを...
2026年8月31日、Anthropicは「整合性とセキュリティ努力の改善」という公式発表で、Claude後のサイバーセキュリティレビュー改善計画を発表しました。モデルに新たなセキュリティアラートを追加することに注力しているのではなく、評価環境、リアルタイム監視、権限管理、第三者の運用規範を多層的な...