推論予算とは、モデルが答えを出す前に内部で思考するために使えるトークンの上限です。答えの長さを決めるものではなく、モデルがどれだけ長く考えられるかを決めるものです。予算を大きくしても答えが自動的に長くなるわけではなく、予算が小さすぎると、難しい問題を考えきる前に答えてしまうことがあります。
3社の呼び方は違うので、混同しないこと
OpenAIはreasoning.effortを使い、none、minimal、low、medium、highの段階があります。段階はトークン数ではありません。Claudeの旧式はthinkingの中のbudget_tokensで、直接数字を入力し、最小は1,024で、max_tokensより小さくなければなりません。新式はoutput_config.effortで、low、medium、high、xhigh、maxの段階があり、旧式は新しいモデルでは廃止されています。Gemini 2.5はthinkingBudgetで、数字を入力し、0で思考をオフ、-1で動的思考になります。Gemini 3はthinking_levelの段階で、minimal、low、medium、highです。チャットアプリの一般ユーザーができるのは、通常モデルを選ぶ、思考のオン・オフを切り替える、段階を選ぶことまでで、正確な数字を入力するのはAPIを呼ぶ開発者の仕事です。
大きくする・小さくする、それぞれの代償
思考トークンは出力トークンとして課金され、コンテキストと出力上限も消費します。予算を大きくしすぎると答えの余地が足りなくなり、書き終わる前に途切れることがあります。予算を小さくしすぎると、難しい問題で手順を飛ばしたり間違えたりしやすくなります。大きくすると数学、多段階の計画、複雑なデバッグでは役立つことが多いですが、費用も時間もかかります。調べもの、要約、分類、整形のような単純な作業では効果は小さいです。小さくするのはリアルタイムの会話、音声、大量処理に向いています。安くて速いからです。
よくある3つの誤解
第一に、予算は上限であって正確な使用量ではありません。8,000に設定しても毎回8,000使うわけではなく、簡単な問題ではモデルは早めに思考を終えます。第二に、大きくすれば必ず正確になるわけではなく、効果は頭打ちになり、考えすぎると回り道をしたり、正しい答えを自ら否定したりすることもあります。第三に、思考の全過程はデフォルトでは見えず、要約か展開できる思考パネルしか見られません。課題ごとに最小の段階から試し、少しずつ上げて、無駄なく十分な段階を見つけること。それが推論予算の正しい使い方です。
