Baseten の意思決定モデルは 2026 年 10 月 21 日、同社の研究部門 Base Labs から公開された。mammoth-1(27B)と elephant-1(9B)は文章を生成せず、候補となる各答えに確率を返し、合計は 1 になる。両モデルとも Hugging Face でオープンソース公開され、Baseten のモデル API では 1 週間無料で試せ、デフォルトでデータ保持は行われない。
答えるのは、3 種類の狭い問いだけ
意思決定モデルが扱えるのは、リストから 1 つを選ぶ選択(このチケットはインフラ、請求、セキュリティ、サポートのどこ宛か)、尺度で評価するスコア(このメールの緊急度は高いか低いか)、そして真偽の判断(このメールはフィッシングか)の 3 種類だけだ。単純に聞こえるが、本番システムで最も件数が多いリクエストでもある。従来は生成型の大規模言語モデルが使われてきたが、答えを 1 語ずつ書くため計算コストが高く遅い上に、文章からはモデルがどれほど確信しているのか分からなかった。
本当の売りは「確信度」
mammoth-1 は Jev Decision Index 0.4 で 71.24 点を記録し、208 の意思決定モデルの中で 1 位、elephant-1 は 9B クラスで首位に立った。両モデルは Qwen3.5 をベースに、知識と推論、言語、ツールと自動化、検索と分類、人間の嗜好という 5 領域にわたる 621 万件の意思決定サンプルで事後学習されており、「分からない」と答えることを教えるサンプルも含まれている。Baseten によれば、意思決定モデルは推論モデルと比べて最大で 10 倍高速だという。
誰が注目すべきか
狙いはチャットモデルの置き換えではなく、その手前に立つことだ。確信度が高ければ、たとえば 90% の自信がある場合にチケットを自動で振り分け、低ければ人やより強いモデルへ回す。チケットの振り分け、スパムやフィッシングの検知、プロンプトのガードレールやジェイルブレイク検出、大モデルと小モデルの間のルーティングが、そのまま使える場面だ。代償もある。理由を説明しないため、監査が厳しい業務では別途記録が要るし、公表された順位もベンダーが示した評価体系によるものだ。導入前に自社の難しい事例で精度と確信度の校正を測り、閾値を決めるべきである。