LLM-Feintuning
Erklärt, welches Modellverhalten Feintuning tatsächlich verändert und wie es sich von Prompt-Optimierung und RAG in Kosten und Wirkung unterscheidet, damit Teams über den Trainingswert entscheiden können.
LLM-Feintuning nutzt zusätzliches Training, um Ton, Ausgabestruktur und spezifische Aufgaben eines Modells stabiler zu machen; vollständiges Feintuning, LoRA und QLoRA sind gängige Wege. LoRA trainiert nur kleine seitliche Matrizen, spart Speicher und Kosten und eignet sich für Fachbegriffe, feste Formulierungen oder Bildstile; fehlt dem Basismodell aber eine Fähigkeit und sind die Daten dünn oder chaotisch, rettet auch Feintuning nicht.
