ToolNavs KI-Tools entdecken
Tool einreichen Anmelden
Zurück zu KI-Enzyklopädie
Was ist der Temperature-Parameter? Macht eine höhere Temperatur die KI kreativer?

Was ist der Temperature-Parameter? Macht eine höhere Temperatur die KI kreativer?

KI-Enzyklopädie • Admin • • 7 Aufrufe

Der Temperature-Parameter ist ein Sampling-Parameter, der steuert, wie zufällig die Ausgabe eines großen Sprachmodells ausfällt. Er versteckt sich in den erweiterten Einstellungen und API-Parametern der meisten KI-Chatprodukte. Man sieht ihn selten direkt, doch er entscheidet, ob die Antworten eines Modells streng und konvergent oder frei und fantasievoll ausfallen.

Die Kernidee lässt sich in einem Satz zusammenfassen: Jedes Mal, wenn ein Modell ein Wort erzeugt, berechnet es zuerst eine Wahrscheinlichkeitsverteilung über alle Kandidatenwörter und „zieht" dann daraus ein Wort. Der Temperature-Parameter formt diese Verteilung — wird die Temperatur erhöht, flacht die Verteilung ab, und auch unwahrscheinliche Wörter bekommen eine Chance; wird sie gesenkt, wird die Verteilung steiler, und das Modell wählt fast nur noch das wahrscheinlichste Wort; bei Temperatur 0 wählt es jedes Mal das wahrscheinlichste Wort, und die Ausgabe wird nahezu deterministisch.

Die Temperatur ändert die „Wortwahl", nicht das „Wissen"

Der Temperature-Parameter wirkt in der Dekodierungsphase. Er verändert weder Wissen noch Fähigkeiten des Modells, sondern nur seine Wortwahlstrategie. Dreht man ihn hoch, wird das Modell nicht plötzlich „klüger"; dreht man ihn runter, kann es nichts beantworten, was es nicht weiß. Genau hier liegt das häufigste Missverständnis: Die Temperatur ist kein Intelligenzregler, sondern ein Zufallsregler.

Temperatur und top-p sind nicht dasselbe

Viele verwechseln Temperatur mit top-p, doch sie haben unterschiedliche Aufgaben: Die Temperatur formt die gesamte Wahrscheinlichkeitsverteilung — sie „dehnt oder staucht" sie; top-p dagegen schneidet die Kandidatenliste nach kumulativer Wahrscheinlichkeit ab und behält nur die Top-Wörter, deren Wahrscheinlichkeiten sich zu p summieren — es „zieht also die Kandidatengrenze". Beide lassen sich kombinieren: erst mit top-p den Kandidatenpool festlegen, dann mit der Temperatur entscheiden, wie zufällig darin gewählt wird. Merkt man sich „einer formt, einer begrenzt", verwechselt man sie nie wieder.

Drei häufige Missverständnisse

Erstens: „Je höher die Temperatur, desto kreativer die KI." Eine moderate Erhöhung (etwa von 0,7 auf 1,2) bringt tatsächlich vielfältigere Formulierungen — doch zu hoch gedreht beginnt das Modell zu faseln und zu halluzinieren; „Kreativität" wird zu „Unsinn". Echte Kreativität ist vielfältig und zugleich kohärent, und die Temperatur steuert nur die vielfältige Hälfte.

Zweitens: „Temperatur 0 garantiert perfekte Reproduzierbarkeit." Bei 0 kollabiert das Sampling zu greedy Decoding, und die Ausgabe ist bei gleicher Eingabe hochstabil — doch Hardwareunterschiede, Inferenz-Frameworks und Batch-Scheduling können trotzdem winzige Abweichungen verursachen. Für Aufgaben mit starkem Konsistenzbedarf ist Temperatur 0 notwendig, aber nicht hinreichend.

Drittens: „Im Alltag reicht die Standardtemperatur." Das hängt von der Aufgabe ab: Bei Code, Mathematik und Faktenfragen senkt eine niedrigere Temperatur (0 bis 0,3) selbstsicher klingende Erfindungen deutlich; beim Brainstorming, Werbetexten und Geschichtenschreiben bringt 0,8 bis 1,2 mehr Überraschungen. Diesen Regler drehen können vor allem API-Nutzer und alle, die Modelle lokal betreiben — Web-Chatprodukte fixieren ihn meist.

Empfohlene Einstellungen je Aufgabe

Eine praktische Referenzspanne (die Skalen variieren je nach Modell leicht; üblich ist 0 bis 2): 0 bis 0,3 für Code, Mathematik und Faktenfragen — Genauigkeit und Reproduzierbarkeit zuerst; um 0,7 für Alltagsgespräche, Zusammenfassungen und Umschreibungen — Natürlichkeit und Stabilität im Gleichgewicht, zugleich der Standardwert der meisten Produkte; 0,9 bis 1,3 für Brainstorming und kreatives Schreiben — maximale Vielfalt, aber mit menschlicher Kontrolle; über 1,5 nur für Experimente, denn die Ausgabequalität nimmt dann spürbar ab.

Der Temperature-Parameter ist im Kern ein Kompromiss zwischen „ruhig" und „lebendig". Wenn die Antwort einer KI das nächste Mal zu steif oder zu wild wirkt, prüfen Sie zuerst, wo der Temperaturregler steht — oft liegt das Problem nicht am Modell, sondern an diesem kleinen Parameter.

Empfohlene Tools

Mehr