サンプリングパラメータ

温度とトップpとは何ですか? なぜAIの回答は変動するのか?

温度とTop-pはどちらもモデルの「次の単語の選び方」を制御します。 簡単に言えば、それらは答えの保守的で分岐に関わるのです。 温度が低いほど、モデルは最も安定した単語を選ぶ傾向があります。 温度が高いほど、モデルは異なる表現を試す大胆さが強まります。 Top-pは「どの候補語を保持すべきか」をフィ...