Wenn der Kontext fast voll ist, beginnt die KI, Dinge zu vergessen. Meist liegt das nicht an einer schlechteren Einstellung, sondern daran, dass frühe Teile des Gesprächs abgeschnitten oder komprimiert wurden. Am zuverlässigsten ist es, die KI zuerst die wichtigsten Punkte zusammenfassen zu lassen, dann ein neues Gespräch zu beginnen, die Zusammenfassung einzufügen und dort weiterzumachen, statt sie im ursprünglichen Gespräch immer wieder darauf hinzuweisen, dass sie sich geirrt hat.
Vier Anzeichen dafür, dass der Kontext fast voll ist
Das erste Anzeichen: Sie vergisst Vorgaben und Namen vom Anfang. Ein zu Beginn festgelegter Personenname, eine Anrede oder eine Formatanforderung ändert sich später plötzlich oder wird gar nicht mehr verwendet. Das zweite Anzeichen: Sie bringt einen Vorschlag erneut vor, den Sie bereits abgelehnt haben, als hätte es diese Diskussion nie gegeben. Das dritte Anzeichen: Die Antworten werden deutlich kürzer und oberflächlicher. Details und Beispiele, die sie früher liefern konnte, verschwinden nach und nach, und es bleiben nur pauschale Schlussfolgerungen. Das vierte Anzeichen ist Verwechslung: Sie vermischt Informationen aus verschiedenen Abschnitten, von verschiedenen Personen oder aus verschiedenen Versionen, und Zeitabläufe sowie Ursache und Wirkung passen nicht mehr zusammen. Treten zwei oder drei dieser Anzeichen auf, liegt es in der Regel nicht daran, dass Sie sich unklar ausgedrückt haben, sondern daran, dass das Gespräch zu lang geworden ist.
Warum sie nach langem Chatten vergisst
Der Grund ist, dass das Kontextfenster begrenzt ist. In einem Gespräch kann das Modell nur eine bestimmte Textmenge gleichzeitig sehen. Je länger Sie chatten, desto wahrscheinlicher wird es, dass frühe Inhalte herausgedrängt oder vom System zu einer verkürzten Fassung komprimiert werden, sodass Details naturgemäß verloren gehen. Selbst wenn Inhalte noch nicht vollständig verdrängt sind, wird die Aufmerksamkeit durch die vielen dazwischenliegenden Nachrichten verwässert: Informationen, die weiter zurückliegen und seltener erwähnt werden, werden leichter von späteren Inhalten überlagert. Deshalb kann die Qualität im späteren Verlauf eines langen Gesprächs auch dann sinken, wenn das Fenster als sehr groß angegeben wird. Mehr dazu finden Sie in Ein größeres Kontextfenster ist nicht immer besser: Der Aufmerksamkeitspreis hinter 1M Token und drei Missverständnisse.
Wenn das Vergessen beginnt, setzen Sie so am zuverlässigsten fort
Erstens: Lassen Sie die KI eine Zusammenfassung zum Fortsetzen erstellen und verlangen Sie ausdrücklich vier Bestandteile: das aktuelle Ziel, die bereits getroffenen Entscheidungen, die noch offenen Fragen und den wichtigsten Originalwortlaut, der erhalten bleiben muss, etwa Namen, Zahlen und feste Formulierungen. Zweitens: Beginnen Sie ein neues Gespräch, fügen Sie zuerst die Zusammenfassung ein, ergänzen Sie einen Satz wie „Bitte mache auf Grundlage dieser Zusammenfassung weiter und verwerfe die bereits getroffenen Entscheidungen nicht“, und stellen Sie erst dann Ihre neue Frage. Lassen Sie sie nach dem Einfügen zunächst Ziel und getroffene Entscheidungen wiederholen und bestätigen Sie, dass kein Missverständnis vorliegt, bevor Sie fortfahren. Das ist weniger Aufwand, als sofort die nächste Frage zu stellen, und verhindert, dass sie auf Basis eines falschen Verständnisses weiterarbeitet. Namen, Formulierungen und Verbote, die Sie immer wieder brauchen, können Sie auch als eigenen Text speichern und bei jedem neuen Gespräch einfügen, statt sich auf ihr Erinnerungsvermögen zu verlassen. Drittens: Teilen Sie lange Aufgaben möglichst in Phasen, geben Sie jeder Phase ein eigenes Gespräch und übernehmen Sie nur Zusammenfassung und Ergebnis der vorherigen Phase, statt die ganze Aufgabe in ein einziges Gespräch zu pressen und bis zum Ende durchzuziehen. Viertens: Schreiben Sie wichtige Vorgaben an den Anfang jedes Gesprächs und wiederholen Sie sie an entscheidenden Punkten rechtzeitig. Fünftens: Vermischen Sie in einem Gespräch keine mehreren, nicht zusammenhängenden Aufgaben. Je mehr Themen es gibt, desto stärker stören sich die Informationen gegenseitig, und Vergessen und Verwechslungen treten nur früher auf.
Zwei Grenzen, die leicht verwechselt werden
Bezahlversionen haben in der Regel ein größeres Kontextfenster und halten länger durch, aber auch sie haben eine Obergrenze und sind bei einem ausreichend langen Gespräch irgendwann voll. Ein Abonnement ist also keine einmalige Lösung für immer. Außerdem ist die „Memory“-Funktion vieler Produkte nicht dasselbe wie der Kontext eines einzelnen Gesprächs: Memory speichert wenige Vorlieben und Fakten über Gespräche hinweg, während der Kontext alles ist, was sie im aktuellen Gespräch in diesem Moment sehen kann. Wenn dieses Gespräch eine Vorgabe vergisst, die Sie gerade erst gemacht haben, ist das meist ein Kontextproblem, das sich nicht durch Ein- oder Ausschalten von Memory in den Einstellungen beheben lässt.
