L’annotation de données transforme un matériau brut en matériau d’entraînement assorti de réponses : un avis reçoit l’étiquette positive ou négative, ...
Un benchmark est un examen standardisé pour les modèles d’IA : les questions sont fixes, les règles de notation aussi, et plusieurs modèles répondent ...
Le décodage spéculatif (Speculative Decoding) accélère la génération de texte des grands modèles : un modèle brouillon, beaucoup plus petit, devine d'...
L'encodage positionnel est un signal d'ordre supplémentaire attaché à chaque mot d'une phrase, pour que le modèle sache quel jeton vient en premier et...
L'apprentissage à peu d'exemples est une façon d'utiliser un grand modèle qui consiste à ne lui montrer qu'une poignée d'exemples pour qu'il accomplis...
L'injection de prompt est une forme d'attaque qui dissimule des instructions dans des contenus externes que le modèle va lire, afin de lui faire prend...
Le pré-entraînement est la première phase d'entraînement d'un grand modèle de langage : avant d'apprendre à discuter ou à coder, le modèle fait une se...
L'autorégression est la méthode de base qu'un grand modèle utilise pour générer du texte : à partir des jetons déjà présents, il prédit le jeton suiva...
