Temperature パラメータは、大規模言語モデルの出力のランダム性を制御するサンプリングパラメータで、多くの AI チャット製品の詳細設定や API パラメータの中に隠れている。普段は直接目にしないが、モデルの回答が堅実で収束的になるか、自由で奔放になるかを決めている。
要点は一言で言える。モデルが単語を生成するたび、実際にはまず全候補の確率分布を計算し、そこから 1 語を「抽選」している。Temperature パラメータはこの分布の形を調整する——温度を上げると分布は平らになり、マイナーな語にも選ばれるチャンスが生まれる。温度を下げると分布は急峻になり、モデルはほぼ確率最大の語だけを選ぶ。温度 0 では毎回確率最大の語が選ばれ、出力はほぼ確定的になる。
Temperature が変えるのは「語の選び方」であって「知識の量」ではない
Temperature パラメータはデコード段階で働く。モデルの知識や能力は変えず、語の選択戦略だけを変える。温度を上げてもモデルが「賢く」なるわけではなく、下げても知らないことを答えられるようにはならない。ここが最も多い誤解だ。Temperature は知能のつまみではなく、ランダム性のつまみである。
Temperature と top-p は別物
Temperature と top-p を混同する人は多いが、役割は違う。Temperature は確率分布全体の形を調整し、分布を「引き伸ばしたり圧縮したり」する。一方 top-p は累積確率で候補を打ち切り、確率の合計が p に達する上位の語だけを残す。つまり「候補の範囲を区切る」のだ。両者は併用できる。先に top-p で候補プールを決め、Temperature でその中からどれくらいランダムに選ぶかを決める。「一つは形を整え、もう一つは範囲を区切る」と覚えれば、もう混同しない。
よくある 3 つの誤解
1 つ目は「温度が高いほど AI は創造的になる」。温度を適度に上げる（例えば 0.7 から 1.2）と確かに表現の幅は広がるが、上げすぎるとモデルは支離滅裂になり、でたらめを言い始める。「創造性」が「でたらめ」に変わってしまうのだ。本当の創造性は「多様かつ一貫」であり、Temperature が担うのは多様性の半分だけだ。
2 つ目は「温度 0 にすれば完全に再現できる」。温度 0 ではサンプリングは貪欲デコーディングに退化し、同じ入力に対する出力は非常に安定する。だが、ハードウェアの違い、推論フレームワーク、バッチスケジューリングなどによって微細な差が生じることもある。強い一貫性が必要な場面では、温度 0 は必要条件だが十分条件ではない。
3 つ目は「普段はデフォルト温度で十分」。これは用途次第だ。コード、数学、事実に関する質問では温度を下げる（0〜0.3）と「もっともらしい嘘」がはっきり減る。ブレインストーミング、コピー作成、物語の執筆では 0.8〜1.2 に上げると意外性が生まれやすい。このつまみを実際に回せるのは主に API ユーザーとローカルでモデルを動かす人で、Web 版チャット製品では固定されていることが多い。
用途別の目安
実用的な参考範囲を示す（モデルによって目盛りは多少異なり、一般的には 0〜2）。コード、数学、事実に関する Q&A は 0〜0.3 で、正確さと再現性を優先。日常会話、要約、リライトは 0.7 前後で、自然さと安定性を両立。これが多くの製品のデフォルト値でもある。ブレインストーミングや創作は 0.9〜1.3 で、多様性を最大化しつつ人間のチェックを入れる。1.5 超は実験的な用途に限ったほうがよく、出力品質の劣化が顕著になる。
Temperature パラメータの本質は、「堅実さ」と「活発さ」のトレードオフだ。次に AI の回答が硬すぎる、あるいは荒唐無稽すぎると感じたら、まず温度のつまみがどこにあるか確かめてみよう。問題はモデルではなく、この小さなパラメータにあることが多いのだから。
