Le délai du premier jeton, souvent abrégé TTFT (Time To First Token), est l'attente entre le moment où vous appuyez sur envoyer et celui où le modèle produit son premier jeton. C'est lui qui façonne la première impression de rapidité d'un produit d'IA : certains outils restent muets trois ou quatre secondes avant que quoi que ce soit n'apparaisse, d'autres commencent à afficher presque aussitôt. La différence se joue le plus souvent dans cette fenêtre d'ouverture, pas dans la vitesse d'écriture une fois lancé.
Ce que fait le modèle avant le premier mot
Beaucoup imaginent qu'un modèle calcule sa réponse mot à mot dès le départ. En réalité, il y a d'abord une étape de traitement concentrée : le système lit votre question avec tout l'historique de la conversation et les pièces jointes, calcule les relations entre toutes les parties et attend une capacité de calcul. Ce n'est qu'ensuite que le premier jeton apparaît. Cette étape croît avec la longueur de l'entrée : plus le contenu collé est long et l'historique épais, plus le modèle passe de temps à « lire la question », même si votre dernière question tient en une phrase courte.
Le TTFT et la vitesse d'affichage sont deux factures différentes
Une fois le premier jeton sorti, le modèle passe en génération jeton par jeton, et c'est alors le débit par seconde qui compte. Cela donne des combinaisons intéressantes : certains modèles démarrent instantanément mais ralentissent en écrivant, si bien que les longues réponses traînent ; d'autres marquent une pause de quelques secondes puis inondent l'écran et finissent plus tôt au total. Juger la vitesse d'un produit uniquement à la rapidité d'apparition du texte conduit souvent à un mauvais verdict : pour les questions courtes, le TTFT domine ; pour les documents et rapports longs, c'est le temps total qui compte.
Ce qui allonge nettement le TTFT
D'abord, un contexte très long : téléverser des dizaines de pages ou coller tout un code source signifie que le modèle passe un temps réel rien qu'à lire. Ensuite, les modèles de raisonnement : ils réfléchissent en interne avant de parler, et plus la réflexion est ample, plus l'attente est longue — c'est pourquoi les modes de réflexion approfondie démarrent généralement lentement. Enfin, les files d'attente aux heures de pointe et les démarrages à froid : si le même produit semble lent le soir et vif à l'aube, le modèle n'a pas changé, il y a simplement plus de demandes avant la vôtre.
Deux idées reçues fréquentes
Première idée : un premier jeton rapide signifie un modèle puissant. Le TTFT reflète surtout l'ordonnancement et le traitement de l'entrée, pas la qualité des réponses ; les modèles plus petits démarrent souvent plus vite mais répondent de façon plus superficielle. Deuxième idée : une longue attente signifie que tout est bloqué. Si l'interface indique que le modèle réfléchit, ou si vous venez de téléverser un gros fichier, patienter un peu relève du traitement normal ; seul un blocage long et inchangé, qui persiste après actualisation, évoque un problème de connexion ou de service.
Comment juger la vitesse en pratique
Pour comparer des produits ou diagnostiquer une lenteur, divisez le temps en deux : de l'envoi au premier jeton, c'est le TTFT ; du premier jeton à la fin, c'est le temps de génération. Si la première partie est trop longue, raccourcissez le contexte, retirez les pièces jointes inutiles ou évitez les heures de pointe ; si la seconde est trop longue, cherchez un modèle qui affiche plus vite. Cette distinction montre clairement quelle étape est réellement lente.
