Modell-Sampling
Erklärt, wie große Sprachmodelle das nächste Token auswählen: Temperature, top-p, top-k und Wiederholungsstrafen bestimmen Zufall und Verlässlichkeit der Antworten. Ein Leitfaden für die passende Einstellung bei kreativem Schreiben, Programmieren oder Faktenfragen.
Modell-Sampling verwandelt die Wahrscheinlichkeitsverteilung eines Sprachmodells in Wörter: Die Temperature bestimmt die Steilheit, top-p und top-k begrenzen die Kandidaten, Wiederholungsstrafen verhindern Schleifen. Das Thema erklärt Parameter wie Temperature, top-p, top-k und Wiederholungsstrafen — Funktionsweise und Abwägung von Vielfalt gegen Verlässlichkeit. Sie verändern die Wortwahl, nicht das Wissen; gut eingestellt wechselt ein Modell zwischen präzisen Antworten und kreativem Schreiben.
