RAG
讲清检索增强生成是怎么工作的,以及 Embedding、向量数据库和重排序在企业知识库问答里各自扮演什么角色。
讲清检索增强生成是怎么工作的,以及 Embedding、向量数据库和重排序在企业知识库问答里各自扮演什么角色。
Google 开发者知识 API 生态于 2026 年 10 月 7 日由 Google 在开发者博客正式发布,它要替代的是两种凑合办法:让智能体去抓网页,或者指望模型训练数据里那点早就过期的文档记忆。这套 API 把 Google Cloud、Firebase、Android 等产品的官方文档做成...
Crawl4AI 是一个把网页转成干净 Markdown 的开源 Python 库,专门解决把网页喂给大模型之前的那步脏活:页面抓回来满是导航、广告和脚本,直接塞进 RAG 或提示词里既费额度又带噪声。它在开源社区热度很高,用之前值得先把三笔账算清——装起来要付出什么、跑起来慢在哪、抓回来的内容能不...
EmbeddingGemma 2 是 Google DeepMind 在 2026 年 10 月 6 日通过 Google 开发者博客发布的开放权重多模态嵌入模型,基于 Gemma 4 构建,只有 7.4 亿参数。它能把文本、图像、视频帧和音频原生映射到同一个向量空间里,让手机在本地直接做跨模态检索...
Khoj 想做的事很清楚:把你散落在电脑里的文档、笔记和网页,变成一个能随时提问的个人知识库,你问它答,答案来自你自己的资料,而不是模型凭空编。它在 GitHub 上有约 3.5 万星,是个人知识管理方向最受关注的开源项目之一。热度之外更要紧的是另一件事:它需要你自己部署、自己维护,这笔账算不清,装...
MarkItDown 是微软推出的一款开源文件转 Markdown 工具,专门解决大模型吃不进杂乱文档的问题。PDF、Word、PowerPoint、Excel、图片、音频、HTML、EPub、电子邮件、ZIP 压缩包,甚至 YouTube 链接,都可以先被它转成结构相对干净的 Markdown 文...
分词器是你发给模型的那句话最先经过的部件,它不负责理解,只负责切分和编号。文字送进大模型之前,分词器会先把它切成一个个 token,再换成词表里的编号,模型读到的就是这串编号。想通这一点,不少困惑就有答案:token 既不是字,也不是词。 它切的不是字,而是出现概率 目前主流的分词器多采用 BPE ...
AstaBrief 8B 是 Ai2(Allen Institute for AI)于 2026 年 10 月 2 日开源的科学报告生成模型:给它一个研究问题和检索到的文献片段,它直接输出一篇带引用的报告。模型已在 Ai2 的科研平台 Asta 的"生成报告"功能中上线为 Fast mode,权重和...
Dify 值得认真看,最适合两类人:想快速做出可用 AI 应用(内部客服、知识问答、审批助手)又不想从零写后端的团队,以及有数据自主诉求、想把 AI 跑在自己服务器上的企业。它是 GitHub 上约十五万 star 的开源 AI 应用平台,可视化工作流、知识库、Agent、模型管理装进同一个工作台;...