Échantillonnage de modèle
Explique comment les grands modèles de langage choisissent chaque jeton suivant : temperature, top-p, top-k et pénalités de répétition fixent le degré d'aléatoire et de stabilité des réponses. Guide des réglages selon l'usage : écriture créative, programmation ou réponses factuelles.
L'échantillonnage de modèle convertit la distribution de probabilités d'un modèle en mots : la temperature règle sa raideur, top-p et top-k délimitent les candidats, les pénalités de répétition freinent les redites. Ce thème explique des paramètres comme temperature, top-p, top-k et pénalités de répétition — fonctionnement et arbitrage entre diversité et fiabilité. Ils modifient le choix des mots, pas les connaissances ; bien réglés, un modèle passe des réponses strictes à l'écriture créative.
