Apprentissage few-shot
Le few-shot learning décrypté : comment un grand modèle de langage généralise à partir de quelques exemples dans le prompt, sans réentraînement, d’où vient cette capacité, quand elle excelle et quand de simples règles font mieux.
Le few-shot learning permet au modèle de maîtriser une tâche nouvelle à partir de quelques exemples à l’inférence, sans toucher aux paramètres : deux ou trois paires entrée-sortie dans le prompt, et il en déduit le motif pour l’appliquer à de nouvelles questions. Ce sujet explique pourquoi des exemples peuvent instruire un modèle, l’influence de leur nombre et qualité, la frontière avec le zéro-shot et le fine-tuning, et le style classique du Chain-of-Thought few-shot en ingénierie des prompts.
