RAG
讲清检索增强生成是怎么工作的,以及 Embedding、向量数据库和重排序在企业知识库问答里各自扮演什么角色。
讲清检索增强生成是怎么工作的,以及 Embedding、向量数据库和重排序在企业知识库问答里各自扮演什么角色。
RAG(Retrieval-Augmented Generation,检索增强生成)是一种让大语言模型先查资料再回答的技术:模型在生成答案之前,先从外部知识库中检索与问题相关的内容,再把这些内容作为依据写出回答。它解决的正是模型的两个老毛病——训练数据有截止日期、遇到不知道的事容易一本正经地编造(幻...
AI 给的网址链接打不开,大多是模型现编的:纯聊天模式的 AI 并没有一个真实的网址库,它的链接是按格式猜出来的,看起来像真的,但这个页面可能从来就不存在;少数情况才是页面确实失效了、被登录或付费墙挡住,或者 AI 搜索把引用配错了。遇到打不开的链接,先花 30 秒判断它属于哪一种,再决定要不要找替...
上下文窗口是模型一次能"看到"的 token 总量上限:提示词、对话历史、检索到的资料,加上模型已写出的回复,全部按顺序排进这段序列。它决定模型的工作台有多大,但不决定它有多聪明——1M token 的窗口装得下上千页文档,却不等于模型真能用好每一页。 上下文窗口里到底装了什么 窗口里装的不是文件,...
向量数据库是专门存储、索引和查询向量数据的数据库。普通数据库擅长按字段精确查询,比如订单号等于多少;向量数据库擅长按相似度查询,比如哪几段文档和这个问题最接近。 为什么 AI 应用需要它 大模型应用经常要处理非结构化内容:文档、网页、客服记录、图片、音频。Embedding 模型会把这些内容转成高维...
Embedding 可以理解为把文字、图片、音频等内容转换成一串数字向量。AI 能按语义搜索,不是因为它像关键词搜索一样逐字匹配,而是因为相近含义会在向量空间里靠得更近。 一个直观例子 如果用户搜索“怎么退货”,文档里写的是“申请售后退款流程”,传统关键词搜索可能匹配不到;Embedding 搜索会...
RAG 是 Retrieval-Augmented Generation,中文常叫检索增强生成。它的核心不是让模型记住所有资料,而是在回答前先从外部知识库找相关内容,再让大模型基于这些内容生成答案。 它解决的是什么问题 普通大模型只依赖训练时学到的知识和当前输入,遇到公司制度、产品文档、合同条款、最...