La mémoire de l’agent désigne la manière dont un agent conserve, rappelle et met à jour des informations liées à une tâche en dehors d’une seule conversation. Cela peut être les préférences de l’utilisateur, les étapes historiques, les résultats des outils, l’état de l’environnement ou un résumé à plus long terme de l’expérience. Ce terme est devenu de plus en plus courant récemment, non pas parce que les gens aiment soudainement parler de souvenirs, mais parce que beaucoup d’agents semblent capables de faire beaucoup de choses, mais une fois qu’ils entrent dans le processus réel, ils révèlent le même problème : les contraintes mentionnées lors du tour précédent sont oubliées au tour suivant.
Le modèle de chat uniquement a souvent des souvenirs fragiles et repose intrinsèquement sur la fenêtre contextuelle actuelle. s’il y en a dans la fenêtre, il « se souviendra » ; Si la fenêtre est perdue, ou si l’information est trop enfouie, c’est comme si elle n’avait jamais été vue. Cependant, les agents doivent souvent accomplir des tâches bien plus complexes que des discussions, avec des tâches s’étendant sur plusieurs tours, outils, sessions, et même le lendemain. Sans couches mémoire indépendantes, il est difficile pour le système de maintenir une continuité stable.
De nombreuses équipes divisent Agent Memory en plusieurs catégories. La plus courante est la mémoire de travail, qui correspond à l’état immédiat de la tâche en cours, comme les outils transférés, les résultats obtenus et ce qui est prévu de faire ensuite. Plus haut se trouve la mémoire de session, qui sert à mémoriser les préférences, restrictions et contexte donnés par l’utilisateur pendant la tâche. Le long terme est la mémoire durable, qui peut préserver les portraits des utilisateurs, les objets historiques et les schémas de prise de décision récurrents.
Pourquoi est-ce difficile ? Parce que « se souvenir » n’est jamais plus, c’est mieux. Si vous tout économisez, la recherche et la pollution empireront ; S’il y a trop peu de stockage, la continuité sera rompue. Ce qui est encore plus problématique, c’est que les souvenirs doivent juger ce qui vaut la peine d’être conservé, combien de temps conserver, quand l’oublier, et quand les mettre à jour. Sans un bon mécanisme d’écriture et de récupération, la couche mémoire peut facilement passer d’une amélioration à une source de bruit.
Agent Memory n’est pas la même chose que de jeter tout l’historique de chat au modèle. Les souvenirs vraiment utiles doivent souvent être raffinés et structurés. Par exemple, « les utilisateurs préfèrent les réponses courtes » est enregistré comme une préférence réutilisable, et « ce processus de remboursement est bloqué dans l’approbation deux » est enregistré comme un statut de tâche, au lieu de coller les vingt tours de conversations tels qu’ils sont. La première rend le système de plus en plus habile à faire les choses, tandis que la seconde rend généralement le contexte de plus en plus confus.
Pourquoi les gens y prêtent-ils autant d’attention aujourd’hui ? Parce que l’agent passe de la démonstration à une utilisation continue. Les utilisateurs ne le testeront pas une seule fois, mais espèrent que l’assistant me comprendra de plus en plus en continu. Sans couche mémoire, l’agent est comme un nouveau stagiaire à chaque fois ; Avec une bonne couche de mémoire, il a l’occasion de montrer le sentiment que « ce système accumule vraiment de l’expérience ».
Par conséquent, les lacunes de nombreux agents ne sont pas dans la limite supérieure de capacité, mais dans la limite inférieure de continuité. Ce n’est pas qu’il ne peut pas le faire, mais il ne peut pas saisir ce qui était déjà connu la dernière fois. La raison pour laquelle la mémoire d’agent est devenue un mot à la mode montre que tout le monde commence à réaliser que le véritable agent disponible ne peut pas se trouver uniquement dans le tour actuel.
