Die Zeit bis zum ersten Token, meist TTFT (Time To First Token) abgekürzt, ist die Wartezeit zwischen dem Absenden und dem Moment, in dem ein Modell sein erstes Token ausgibt. Sie prägt den ersten Eindruck davon, wie schnell sich ein KI-Produkt anfühlt: Manche Tools schweigen drei bis vier Sekunden, bevor etwas erscheint, andere beginnen fast sofort zu streamen. Der Unterschied liegt meist in diesem Anfangsfenster, nicht in der Schreibgeschwindigkeit danach.
Was das Modell vor dem ersten Wort tut
Viele nehmen an, ein Modell berechne seine Antwort von Anfang an Wort für Wort. Tatsächlich gibt es zuerst einen konzentrierten Verarbeitungsschritt: Das System liest Ihre Frage samt Gesprächsverlauf und Anhängen, berechnet die Zusammenhänge aller Teile und wartet auf Rechenkapazität. Erst danach erscheint das erste Token. Dieser Schritt wächst mit der Eingabelänge — je mehr Material Sie einfügen und je dicker der Verlauf, desto länger „liest“ das Modell die Aufgabe, selbst wenn Ihre letzte Frage nur ein kurzer Satz ist.
TTFT und Streaming-Tempo sind zwei verschiedene Rechnungen
Sobald das erste Token da ist, erzeugt das Modell eines nach dem anderen, und dann zählt, wie viele Token pro Sekunde kommen. Das ergibt interessante Kombinationen: Manche Modelle starten sofort, werden aber beim Schreiben langsamer, sodass lange Antworten ziehen; andere pausieren einige Sekunden und fluten dann den Bildschirm, sodass sie insgesamt früher fertig sind. Wer ein Produkt nur danach beurteilt, wie schnell Text erscheint, liegt oft falsch — bei kurzen Fragen dominiert die TTFT, bei langen Dokumenten und Berichten zählt eher die Gesamtzeit.
Was die TTFT spürbar verlängert
Erstens: sehr langer Kontext. Wer Dutzende Seiten oder eine ganze Codebasis einfügt, verbringt reale Zeit allein mit dem Lesen. Zweitens: Reasoning-Modelle. Sie denken intern nach, bevor sie sprechen, und je mehr Denken, desto länger die Wartezeit — deshalb starten Tiefen-Denkmodi meist langsam. Drittens: Warteschlangen zu Stoßzeiten und Kaltstarts. Fühlt sich dasselbe Produkt abends träge und nachts flott an, hat sich das Modell nicht verändert; es stehen nur mehr Anfragen vor Ihrer.
Zwei verbreitete Missverständnisse
Erstens: Ein schnelles erstes Token bedeutet ein starkes Modell. Die TTFT spiegelt vor allem Planung und Eingabeverarbeitung, nicht die Antwortqualität; kleinere Modelle starten oft schneller, antworten aber oberflächlicher. Zweitens: Langes Warten heißt eingefroren. Wenn die Oberfläche anzeigt, dass das Modell nachdenkt, oder Sie gerade eine große Datei hochgeladen haben, ist weiteres Warten meist normale Verarbeitung; erst ein langer, unveränderter Stillstand, der auch nach dem Neuladen bleibt, deutet auf ein Verbindungs- oder Dienstproblem hin.
So beurteilen Sie Tempo in der Praxis
Teilen Sie die Zeit beim Vergleichen oder bei der Fehlersuche in zwei Teile: Senden bis erstes Token ist die TTFT, erstes Token bis fertig ist die Generierungszeit. Ist der erste Teil zu lang, kürzen Sie den Kontext, entfernen Sie unnötige Anhänge oder meiden Sie Stoßzeiten; ist der zweite Teil zu lang, suchen Sie ein Modell, das schneller streamt. Mit dieser Trennung wird klar, welcher Schritt tatsächlich langsam ist.
