搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG 延迟」找到 334 条内容
按专题浏览 →匹配口述回答:…落地风险:实时性和准确性永远得二选一。举个例子,电商客服场景,商家突然改了满减政策,用户问“为什么我订单没减钱”,如果更新不及时,RAG可能返回旧政策,导致投诉。但如果你为了实时性,每次更新都立刻重算全图,成本扛不住。所以我的原则是:对实时性要求高的查询,允许短暂读取旧摘要,优先保可用性;对准确性要求高的场景,比如金融风控合同变更,更新期间把查询降级到原始文本检索,虽然慢点但不会错。 上线前我会特别关注一件事:用一批固定query做回放,对比更新前后的Recall和延迟,不通…
匹配口述回答:这道题其实在问一个本质问题:传统[[RAG]]为什么在需要关联推理的场景下会失效,而[[GraphRAG]]怎么用结构化先验来补这个短板。我理解的核心就是从「语义相似」升级到「结构关联」。 先说说传统RAG的痛点。它把文档切成小块,每个块独立做[[Embedding]],然后靠向量相似度去匹配。这么做最大的问题是丢失了文档之间的逻辑关联。举个例子,客服场景里用户问「我上次退货的退款怎么还没到」,传统RAG可能只匹配到「退款政策」那个片段,但真正的答案需要把「用户A的退货单号」…
…话,反而可能让模型对没见过的实体更爱瞎编。所以数据层适合做基础打底,但 不能完全依赖它。 再讲模型架构层面。现在最主流的做法是[[RAG]],检索增强生成。比如客服场景,用户问“这个订单为什么还没退款”,模型不是凭记忆硬答,而是先去知识库里检索退款规则和订单状态,然后把检索结果当上下文来生成。这样生成的内容就有依据了。RAG 特别适合知识频繁更新的场景,比如电商大促期间满减政策天天变。但 RAG 也不是万能药,检索质量差的话,上下文喂错了反而放大幻觉。所以落地时我通常会配合[…
学习内容与项目面试,在同一条路上。