Agentenspeicher bezieht sich darauf, wie ein Agent aufgabebezogene Informationen außerhalb eines einzelnen Gesprächs speichert, abruft und aktualisiert. Es können Nutzerpräferenzen, historische Schritte, Werkzeugergebnisse, Umweltstatus oder eine längerfristige Zusammenfassung der Erfahrung sein. Dieser Begriff ist in letzter Zeit immer gebräuchlicher geworden, nicht weil Leute plötzlich gerne über Erinnerungen sprechen, sondern weil viele Agenten scheinbar viele Dinge können, aber sobald sie in den echten Prozess eintreten, offenbart sie dasselbe Problem: Die in der vorherigen Runde genannten Einschränkungen werden in der nächsten Runde vergessen.
Das reine Chat-Modell hat oft fragile Erinnerungen und ist von Natur aus auf das aktuelle Kontextfenster angewiesen. wenn es im Fenster ist, wird es sich "erinnern"; Wenn das Fenster verloren geht oder die Information zu tief vergraben ist, ist es, als wäre es nie gesehen worden. Allerdings müssen Agenten oft viel komplexere Aufgaben als Chats erledigen, da Aufgaben mehrere Runden, Werkzeuge, Sitzungen und sogar den nächsten Tag umfassen. Ohne unabhängige Speicherschichten ist es für das System schwierig, die Kontinuität stabil aufrechtzuerhalten.
Viele Teams teilen Agent Memory in mehrere Kategorien ein. Am häufigsten ist das Arbeitsgedächtnis, also der unmittelbare Zustand der aktuellen Aufgabe, wie z. B. welche Werkzeuge übertragen wurden, welche Ergebnisse erzielt wurden und was als Nächstes geplant ist. Weiter oben befindet sich der Sitzungsspeicher, der verwendet wird, um sich die vom Benutzer während der Aufgabe gegebenen Präferenzen, Einschränkungen und Kontext zu merken. Langfristig ist das dauerhafte Gedächtnis, das Nutzerporträts, historische Gegenstände und wiederkehrende Entscheidungsmuster bewahren kann.
Warum ist es schwierig? Denn "Erinnern" ist nie mehr besser. Wenn man alles rettet, werden die Suche und die Verschmutzung schlimmer; Wenn zu wenig Speicher vorhanden ist, wird die Kontinuität unterbrochen. Noch problematischer ist, dass Erinnerungen beurteilen müssen, was es wert ist, behalten zu werden, wie lange sie behalten werden, wann sie es vergessen und wann sie aktualisieren sollen. Ohne einen guten Schreib- und Abrufmechanismus kann die Speicherschicht leicht von einer Verbesserung zu einer Rauschquelle werden.
Agent Memory ist nicht dasselbe, wie den gesamten Chatverlauf ins Modell zu werfen. Wirklich nützliche Erinnerungen müssen oft verfeinert und strukturiert werden. Zum Beispiel wird "Nutzer bevorzugen kurze Antworten" als wiederverwendbare Präferenz verzeichnet, und "dieser Erstattungsprozess steckt in Genehmigung zwei fest" wird als Aufgabenstatus verzeichnet, anstatt die zwanzig Runden von Gesprächen so einzufügen, wie sie sind. Ersteres macht das System immer besser darin, Dinge zu tun, während Letzteres den Kontext meist nur noch verwirrender macht.
Warum schenken die Leute ihm jetzt so viel Aufmerksamkeit? Weil der Agent von der Demo zur kontinuierlichen Nutzung wechselt. Die Nutzer testen es nicht nur einmal, sondern hoffen, dass der Assistent mich immer mehr und kontinuierlich versteht. Ohne Speicherschicht ist der Agent jedes Mal wie ein neuer Praktikant; Mit einer guten Gedächtnisschicht hat es die Möglichkeit, das Gefühl zu zeigen, dass "dieses System wirklich Erfahrung sammelt".
Daher liegen die Schwächen vieler Agenten nicht am oberen Limit der Fähigkeit, sondern am unteren Grenze der Kontinuität. Es ist nicht so, dass es es nicht kann, aber es kann nicht stetig das erfassen, was beim letzten Mal schon bekannt war. Der Grund, warum Agent Memory zu einem heißen Schlagzeilenthema geworden ist, zeigt, dass alle beginnen zu erkennen, dass der echte Agent, der wirklich verfügbar ist, nicht nur in der aktuellen Runde sein kann.
