L'oubli catastrophique désigne ce qui se produit lorsqu'un réseau de neurones apprend des tâches les unes après les autres et, en maîtrisant les derni...
La perplexité est un nombre qui mesure à quel point un modèle de langue hésite sur le mot suivant. Quand le modèle prolonge une phrase, plus le mot ré...
Le surapprentissage, c'est lorsqu'un modèle mémorise trop bien ses données d'entraînement, bruit et détails accidentels compris : excellent sur les ex...
Un modèle de diffusion est un modèle génératif qui crée de nouveaux contenus en ajoutant d'abord progressivement du bruit aux données, puis en apprena...
Les capacités émergentes sont des capacités de tâche que les petits modèles ne parviennent pratiquement pas à accomplir, mais qui deviennent soudainem...
Le tokenizer est le premier composant que traverse la phrase que vous envoyez à un modèle, et son rôle n'est pas de comprendre : il ne fait que découp...
L'alignement de l'IA (AI Alignment) désigne l'ensemble des méthodes d'entraînement et d'évaluation qui, après le pré-entraînement, rendent le comporte...
Un modèle multimodal est un modèle d'IA capable de traiter simultanément plusieurs formes d'information — texte, images, audio : on lui donne une phot...
