LangSmith a lancé AI Search le 13 octobre 2026, dans un article du blog officiel de LangChain. Quand une équipe passe en revue l'activité de ses agents, ce qu'elle cherche le plus souvent n'est pas un mot-clé mais un comportement : l'exécution où l'agent a déclaré une tâche terminée sans l'avoir faite, l'utilisateur visiblement agacé, la requête où des informations personnelles ont fuité. Ces questions n'ont pas de champ prêt à l'emploi dans les traces, et ni les balises, ni les métadonnées, ni la recherche plein texte ne peuvent les faire remonter ; jusqu'ici, il fallait installer un évaluateur à l'avance ou lire les traces à la main. AI Search permet de décrire en langage naturel le comportement recherché et renvoie les traces où il s'est réellement produit.
Pourquoi pas la recherche vectorielle
La méthode habituelle pour chercher par le sens est l'embedding : compresser la question et chaque trace en une courte liste de nombres, puis rendre les plus proches. Mais une trace contient une quantité énorme d'informations, et la compression en un seul vecteur est nécessairement perteuse — une trace où l'agent a fait le travail et une autre où il l'a seulement affirmé peuvent obtenir des embeddings quasi identiques, exactement la distinction qui compte le plus pour les équipes. LangChain a choisi de faire lire le texte des traces par des modèles au moment de la recherche. AI Search repose sur SmithDB, une base conçue pour les données de traces, qui remet d'abord en forme les enregistrements venus des SDK d'OpenAI et d'Anthropic, de LangChain, LangGraph, du Vercel AI SDK, d'OpenTelemetry et d'autres sources, en une trajectoire de session dédupliquée. Les filtres structurés réduisent ensuite les candidats, puis des modèles de décision rapides confrontent chaque trajectoire restante à la description, en parallèle, en diffusant les résultats au fur et à mesure.
Un budget de 8K, rempli par priorité
Lire le texte brut pose un problème de coût : les trajectoires d'agents sont longues. LangChain a échantillonné 150 conversations d'Open SWE, son propre agent de code ; la médiane atteignait environ 72K tokens, dont seulement quelque 2K de messages utilisateurs et de réponses de l'agent, environ 85 % étant des sorties d'outils — lectures de fichiers, résultats de commandes — et quelques conversations dépassaient le million de tokens. Chaque trajectoire reçoit donc un budget de lecture de 8K tokens, rempli par ordre de priorité : messages de l'utilisateur et réponses qui lui sont adressées d'abord, puis raisonnements intermédiaires, appels d'outils et leurs résultats, le reste étant tronqué.
L'intérêt pratique se situe dans l'évaluation et le débogage : enrichir un jeu d'évaluation pour un type d'échec ou retrouver des conversations précises pour une file d'annotation n'exige plus de prévoir toutes les questions à l'avance. AI Search est en bêta publique sur LangSmith Cloud dans les régions GCP États-Unis, Europe et Asie-Pacifique, sans coût supplémentaire, activé par un administrateur de l'organisation. Ses limites sont énoncées clairement : les jugements viennent d'un modèle qui lit les traces et peuvent être faux, et les détails sacrifiés par le budget — souvent dans les résultats d'outils — peuvent contenir la réponse à d'autres questions. Choisir le contexte selon la question, relancer une seconde passe en cas d'incertitude, regrouper et résumer les résultats figurent parmi les prochaines étapes. Ce n'est que lorsque les traces passent du statut d'archives à celui de matière interrogeable que l'observabilité boucle vraiment la boucle.
