SFT (Supervised Fine-Tuning, überwachte Feinabstimmung) ist die „Einarbeitung“, die ein Chat-Modell vor seinem „Arbeitsantritt“ durchläuft: Anhand tau...
RAG (Retrieval-Augmented Generation, abrufgestützte Generierung) ist eine Technik, die ein großes Sprachmodell erst recherchieren und dann antworten l...
Knowledge Distillation ist eine Technik, mit der ein kleines Modell (das Schülermodell) von einem bereits trainierten großen Modell (dem Lehrermodell)...
Chain-of-Thought (CoT, Gedankenverkettung) ist eine Prompt-Technik: Statt das Modell direkt antworten zu lassen, schreibt es zuerst seine Zwischenschr...
Das Kontextfenster ist die Obergrenze dafür, wie viele Tokens ein Modell auf einmal „sehen" kann: der Prompt, der Gesprächsverlauf, abgerufene Dokumen...
Der Temperature-Parameter ist ein Sampling-Parameter, der steuert, wie zufällig die Ausgabe eines großen Sprachmodells ausfällt. Er versteckt sich in ...
Function Calling ist der gängigste Mechanismus, mit dem große Sprachmodelle auf externe Fähigkeiten zugreifen: Entwickler beschreiben zunächst im JSON...
GraphRAG ist eine Methode, die Wissensgraphen mit retrieval-augmentierter Generierung kombiniert. Zunächst extrahiert es Entitäten, Beziehungen und Er...
