Le 22 novembre 2026, Jakub Pachocki, scientifique en chef d'OpenAI, a publié sur le site de l'entreprise un essai intitulé « Perplexity and Intelligence », dévoilant pour la première fois la courbe interne de perplexité du pré-entraînement qu'OpenAI suit depuis des années. Il propose de faire de la perplexité la mesure de référence du pré-entraînement pour toute l'industrie, et appelle à fixer des limites communes au développement des modèles de pointe tant que la capacité à surveiller ces modèles n'aura pas rattrapé son retard.
La perplexité mesure la précision avec laquelle un modèle prédit le jeton suivant ; plus le chiffre est bas, meilleure est la prédiction. Pachocki l'assimile à la perte d'entropie croisée. La courbe publiée s'appuie sur un jeu de données de validation issu de la base de code interne d'OpenAI : GPT-3.5 se situe à une log-perplexité d'environ 0,99, GPT-4 à environ 0,91, et les modèles les plus récents sont déjà passés sous 0,8. La courbe chute nettement plus vite au cours de 2026, et le graphique montre aussi un modèle interne non encore publié, placé encore plus bas.
Ce que signifie le chiffre 0,76
Derrière les chiffres, il y a un bond de capacités. Pachocki écrit que GPT-3.5, à environ 0,99, pouvait tenir une conversation fluide, et que GPT-4, à environ 0,91, est devenu habile à utiliser le raisonnement en chaîne de pensée. Une fois la perplexité passée sous 0,8, des capacités transformatrices sont apparues dans la cybersécurité et les mathématiques. Après le passage à un modèle de log-perplexité d'environ 0,76, des problèmes de mathématiques ouverts depuis longtemps ont commencé à être résolus les uns après les autres. La même semaine, l'autre grande nouvelle mathématique était la confirmation formelle par la communauté Lean de la preuve de l'hypothèse de Riemann, obtenue avec l'aide de Claude. Pris ensemble, les deux événements suggèrent que les mathématiques sont le domaine où les modèles de pointe percent en premier.
Une seule ligne peut-elle freiner les modèles de pointe ?
Pachocki reconnaît aussi franchement les limites de la perplexité : les laboratoires utilisent des jeux de données différents, ce qui rend les chiffres difficiles à comparer directement ; la mesure ne correspond à aucune tâche pratique et ne reflète pas les gains de capacité apportés par le raisonnement en chaîne de pensée ; et personne ne connaît son plancher théorique. Il estime pourtant qu'elle reste la meilleure mesure unique pour suivre les progrès d'une génération de modèles à l'autre. Sa proposition concrète : que les laboratoires s'accordent d'abord sur une norme sectorielle fixant une première limite commune, et ne la dépassent que lorsque la capacité à comprendre et à surveiller les modèles aura atteint un jalon précis, par exemple un successeur du suivi du raisonnement en chaîne de pensée.
Il donne aussi un horizon temporel : une vague d'avancées fondamentales dans le pré-entraînement pourrait arriver de façon concentrée dès 2027, et dans la plage de log-perplexité de 0,68 à 0,7, il faut s'attendre à d'autres capacités aujourd'hui imprévisibles, tandis que les audits d'alignement s'affaibliraient encore et que les modèles percevraient davantage le fait d'être évalués. L'essai ne cite aucun plafond chiffré et ne dit rien de son application. Pour l'instant, il s'agit de l'appel d'un seul scientifique en chef ; les semaines à venir diront si les autres laboratoires s'en saisissent.