La plateforme de conversation d’Anthropic Claude.ai a annoncé une solution à un problème courant rencontré par les utilisateurs lors de longues conversations : des conversations contraintes d’interrompre après avoir touché des limites contextuelles. La plateforme a ajouté une nouvelle fonction de « compression intelligente du contexte précoce », qui rationalise et organise automatiquement le contenu du chat antérieur lorsque le système détecte que la durée de la conversation est proche de la limite supérieure, afin de maintenir la conversation sans interrompre le sujet actuel.
Selon l’introduction, ce mécanisme ne supprime pas la limite supérieure de la longueur de contexte du modèle lui-même, mais réserve de l’espace pour les messages suivants en comprimant une partie du contenu initial avant d’approcher la limite supérieure. Les utilisateurs n’ont pas besoin de supprimer manuellement les messages historiques ou d’ouvrir de nouvelles conversations pour ajouter continuellement des questions et des informations supplémentaires dans la même conversation. Cependant, puisque le processus de compression peut conserver des informations clés sous forme de résumés, fusions, etc., certains détails peuvent ne pas être pleinement affichés, et la stratégie de compression spécifique ainsi que les détails techniques n’ont pas encore été divulgués.
Ce changement devrait atténuer l’expérience de « mi-parcours tronqué » dans les longues conversations, en particulier pour les utilisateurs qui itèrent continuellement sur des documents, du code ou des chaînes de tâches complexes. Pour les scénarios reposant sur des enregistrements d’informations exacts, les utilisateurs doivent toujours prêter attention à la sauvegarde et à l’organisation des données clés, et éviter de se fier uniquement aux enregistrements de conversation compressés automatiquement comme seule base.
FAQ
Q : Que fait-Claude.ai avec cette mise à jour ?
R : La plateforme a ajouté un mécanisme pour compresser automatiquement le contenu des premières conversations, simplifiant intelligemment les messages historiques avant que la conversation n’atteigne la limite du contexte, et essayant d’éviter d’être coupée au milieu.
Q : Que voulez-vous dire par « limitation contextuelle » ici ?
R : Il fait généralement référence à la durée maximale de conversation ou à la capacité de texte que le modèle peut gérer à un moment donné, et lorsque le nombre total de messages historiques et de nouvelles entrées dépasse cette limite, les conversations normales ne peuvent pas continuer.
Q : Avec la fonction d’auto-compression, serai-je obligé d’interrompre la conversation ?
R : Le risque de pic est significativement réduit, mais si la conversation est extrêmement longue, la limite limite stricte du modèle peut encore être atteinte à un moment donné, mais plus tard et moins fréquemment.
Q : La compression automatique du contexte précoce va-t-elle faire perdre des informations importantes ?
R : L’objectif de la compression est de préserver les informations clés, mais des détails spécifiques peuvent être incorporés ou omis. En ce qui concerne les informations clés, il est conseillé de prendre des notes supplémentaires ou de sauvegarder séparément le contenu important.