Few-Shot-Learning
Zum Thema Few-Shot-Learning: Wie große Sprachmodelle aus wenigen Beispielen im Prompt verallgemeinern — ganz ohne Neutraining —, woher diese Fähigkeit kommt, wann sie glänzt und wann schlichte Regeln besser funktionieren.
Few-Shot-Learning: Ein Modell lernt eine neue Aufgabe zur Inferenzzeit aus wenigen Beispielen, ohne Parameter zu ändern. Zwei oder drei Eingabe-Ausgabe-Paare im Prompt genügen, damit ein großes Sprachmodell das Muster erkennt und auf neue Fragen anwendet. Hier geht es darum, warum Beispiele überhaupt belehren, wie Anzahl und Qualität wirken, wo die Grenze zu Zero-Shot-Prompting und Fine-Tuning verläuft und wie der klassische Few-Shot-Chain-of-Thought-Stil im Prompt Engineering aussieht.
