LangSmith 于 2026 年 10 月 13 日上线 AI Search，LangChain 在官方博客中宣布了这一消息。团队给智能体做复盘时，真正想找的往往不是某个关键词，而是某类行为：哪次对话里智能体嘴上说任务完成了、实际却没做，哪位用户明显已经不耐烦，哪个请求里漏出了个人敏感信息。这类问题在轨迹（trace）里没有现成字段可筛，靠标签、元数据和全文检索都捞不出来，过去只能提前布好评估器，或者一条条人工翻。AI Search 做的事，就是让用户用自然语言把想找的行为描述出来，由系统返回真正发生过这类行为的轨迹。
为什么它不用向量搜索
按含义搜索的常规做法是向量嵌入：把问题和每条轨迹都压成一串数字，再找最接近的。但一条轨迹信息量极大，压成一个向量必然丢细节——一条“真的做完了”和一条“只是声称做完了”的轨迹，嵌入距离可能非常近，恰恰分不出团队最关心的差别。LangChain 的选择是让模型在搜索时直接读轨迹原文：AI Search 建在为轨迹数据自研的 SmithDB 之上，来自 OpenAI 与 Anthropic 的 SDK、LangChain、LangGraph、Vercel AI SDK、OpenTelemetry 等不同来源的记录，先被整理成去重后的会话轨迹视图；搜索时先用已有的结构化过滤缩小候选范围，再由快速的决策模型逐条对照问题做判断，多个候选并行处理，命中结果流式返回，不必等全量扫完。
8K 预算先装什么，后装什么
直接读原文绕不开成本：智能体轨迹动辄几万 token。LangChain 团队抽样了 150 段自家编程智能体 Open SWE 的对话，中位长度约 72K token，其中用户消息与智能体回复只占约 2K，约 85% 是文件读取、命令输出这类工具结果，个别对话甚至超过 100 万 token。为此每条轨迹设有 8K token 的阅读预算，按优先级装入：用户消息和智能体对用户的回复最先，其次才是中间推理、工具调用与工具结果，装不下的部分会被截断。
对使用者的实际价值落在评测和排障上：想扩充某个失败类型的评测集，或者给标注队列找特定对话时，不再需要提前预判所有问题，事后想起什么就能搜什么。它目前仍是公开测试版，已在 LangSmith Cloud 的 GCP 美国、欧洲、亚太区域开放，不额外收费，由组织管理员在设置中开启。边界同样清楚：判断来自模型阅读轨迹，可能出错；被预算截断的工具细节可能恰好藏着答案，团队也把“按问题挑上下文”“模型不确定时二次复查”“结果分组与共性总结”列为后续方向。轨迹从“存下来”走到“问得出”，可观测性才算真正闭环。
