Text-Chunking bedeutet, ein langes Dokument in kleine Stücke zu schneiden, bevor es in einer Wissensdatenbank landet: Statt ein ganzes Buch, einen Vertrag oder ein komplettes Hilfecenter in das Modell zu stopfen, teilt man den Text in Abschnitte von wenigen hundert bis etwa tausend Zeichen, bettet jeden einzeln ein und holt zur Fragezeit nur die relevantesten Stücke als Antwortgrundlage. Es ist der unscheinbarste Schritt einer RAG-Pipeline – und der, der am stärksten über die Antwortqualität entscheidet.
Warum nicht das ganze Dokument
Ein komplettes Dokument im Kontext hat drei Probleme: Es passt unter Umständen nicht ins Fenster, es ist teuer, wenn es passt, und das Modell lässt sich beim Suchen in überwiegend irrelevantem Text leichter ablenken. In Stücken kann die Suche nur die relevanten Passagen auswählen, was Kosten und Rauschen senkt. Der Preis: Das Dokument wird künstlich zerrissen, und nur die Schnittstrategie bewahrt die Zusammenhänge.
Drei gängige Schnittarten
Feste Zeichenzahl ist am einfachsten, zerschneidet aber leicht Sätze oder Tabellen. Schnitte entlang von Absätzen und Überschriften folgen der Originalstruktur und passen zu Handbüchern und Richtlinien. Semantisches Schneiden trennt nur bei Themenwechseln, wirkt besser, ist aber aufwendiger. Die meisten Werkzeuge lassen zudem eine Überlappung (Overlap) zwischen Nachbarstücken, damit an der Schnittkante getrennter Kontext am Anfang des nächsten Stücks wieder auftaucht.
Zu klein und zu groß – was jeweils schiefgeht
Zu kleine Stücke enthalten unvollständige Informationen: Auf die Frage nach einer Erstattungsobergrenze liefert das gefundene Stück vielleicht nur den Satz, dass Mehrbeträge eine Freigabe brauchen, während die eigentliche Zahl im vorherigen Stück steht – das Modell antwortet vage oder erfindet eine Zahl. Zu große Stücke mischen mehrere Themen, ihr Vektor mittelt sich zu etwas, das keinem Thema ähnelt, das Ranking leidet, und selbst im Trefferfall muss das Modell den Kern in einer langen Passage selbst suchen.
Drei Irrtümer
Erstens: Kleiner ist nicht automatisch präziser; man kauft feinere Lokalisierung mit Kontextverlust. Zweitens: Mehr Überlappung ist nicht immer besser; zu viel davon speichert denselben Inhalt mehrfach, und die Top-Treffer sind lauter Beinahe-Duplikate, die andere relevante Stücke verdrängen. Drittens: Schlechte Antworten sind nicht immer Schuld des Modells; wer bei einer Wissensdatenbank unzufrieden ist, gewinnt meist mehr durch bessere Schnittgröße als durch einen Modellwechsel.
Einen universellen Optimalwert gibt es nicht: Klausel- und FAQ-Texte dürfen kleiner geschnitten werden, erzählende Langtexte brauchen größere Stücke mit erhaltener Überschriftenstruktur. Der einzige echte Test: echte Fragen stellen und prüfen, ob die gefundenen Stücke die richtige Antwort allein tragen können.
