ToolNavs 发现实用AI工具
提交工具 登录

RAG

讲清检索增强生成是怎么工作的,以及 Embedding、向量数据库和重排序在企业知识库问答里各自扮演什么角色。

RAG 是检索增强生成,让大模型在回答前先从外部资料找证据,而不是直接凭记忆生成。RAG 的基本流程,以及 Embedding、向量数据库和重排序模型在知识库问答里分别负责什么,能帮团队少走检索和切片上的弯路。
Khoj 值得自托管吗?给个人知识库装个第二大脑,先算这三笔账

Khoj 值得自托管吗?给个人知识库装个第二大脑,先算这三笔账

Khoj 想做的事很清楚:把你散落在电脑里的文档、笔记和网页,变成一个能随时提问的个人知识库,你问它答,答案来自你自己的资料,而不是模型凭空编。它在 GitHub 上有约 3.5 万星,是个人知识管理方向最受关注的开源项目之一。热度之外更要紧的是另一件事:它需要你自己部署、自己维护,这笔账算不清,装...

Admin
61
分词器是什么?同一句话,为什么换个模型 token 数就不一样

分词器是什么?同一句话,为什么换个模型 token 数就不一样

分词器是你发给模型的那句话最先经过的部件,它不负责理解,只负责切分和编号。文字送进大模型之前,分词器会先把它切成一个个 token,再换成词表里的编号,模型读到的就是这串编号。想通这一点,不少困惑就有答案:token 既不是字,也不是词。 它切的不是字,而是出现概率 目前主流的分词器多采用 BPE ...

Admin
97