搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG 检索增强生成」找到 554 条内容
按专题浏览 →匹配正文:很多人做 RAG 评测时,会先算一个“答案准确率”。如果分数上涨,就认为系统变好了;如果分数下降,就继续换 Embedding、调 TopK 或改 Prompt。 问题是,RAG 不是一次模型调用。用户问题要经过 Query 处理、检索、排序、上下文组装、答案生成和引用回跳。最终回答错了,可能是正确证据根本没有被找回,也可能是证据已经排在前面,生成模型却漏掉了限制条件。只看一个端到端分数,团队仍然不知道应该修哪一段。 这也是项目面试里很容易被追问的一道题: Recall@K、…
匹配正文:用户点下发送以后,页面空了很久,随后答案一口气开始出现。 遇到这种现象,一种常见判断是大模型太慢,需要换一个更快的模型。 但一条 RAG 请求在模型生成第一个字之前,已经经过 Query 处理、Query Embedding、关键词与向量检索、候选融合、Rerank 和上下文构建。真正的等待可能发生在其中任何一段。 从调用依赖关系看,模型要等检索证据准备好,才能开始基于证据生成。因此,如果向量检索阶段很慢,流式输出只能改变第一个 Token 之后的展示,不能缩短前面的检索等待…
学习内容与项目面试,在同一条路上。
匹配正文:一个 RAG Demo 往往只有几步:上传文件,切成 Chunk,写进向量库,然后在同一个接口里提问并生成答案。 本机演示时,这样很直观。 可一旦真的有用户上传文档,问题就出现了。复杂 PDF 解析可能持续很久,某一页 OCR 失败,部分 Chunk 已经写入,用户却不知道任务进行到哪一步。与此同时,在线问答要求尽快返回,不能被后台解析占满资源。 入库和问答使用不同资源,面对不同失败,追求的目标也不同。 这就是 RAG 系统设计面试最常问的一类题: 一个可上线的 RAG 系统…