搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「增量索引」找到 41 条内容
按专题浏览 →匹配口述回答:…,减少重复计算。另外,必须有失败降级链,比如检索超时就回退到参数知识回答,但标记待核实。 这里其实有个延伸点:当知识库频繁更新时,增量索引的实时性和一致性很难同时保证。比如新增文档后,索引还没更新,旧文档被删除了但索引还在,都会影响召回质量。我倾向用双缓冲影子索引,base加delta,查询时合并再按版本过滤,构建完用固定query回放校验,通过才原子切换。 所以整体上,我不会追求单一方案最优,而是根据场景做取舍。比如客服场景,我会更看重延迟,把简单查询走缓存,复杂查询走RA…
匹配口述回答:…分场景。比如客服场景,高频问题走缓存,低频问题走检索;订单查询场景,优先走结构化数据,RAG只做补充。如果知识库更新频繁,还要考虑增量索引。上线我会特别关注延迟的P99和正确率的坏案例,用ARMS做全链路追踪。所以我的倾向是,不要追求一个方案解决所有问题,而是把RAG、缓存、结构化查询结合起来,根据场景做取舍。 本质是多步决策放大了RAG的延迟和错误 延迟:检索层、决策层、编排层,重点说检索和决策 正确率:检索噪声、上下文碎片、决策漂移,重点说检索噪声和决策漂移 架构层面:R…
…版本,并且把核心调用封装成内部接口,这样它API变了也不影响业务。二是LlamaIndex的数据索引更新策略,如果知识库频繁更新,增量索引怎么做、一致性怎么保证,这些都得提前设计好。 再补充一个点,就是工具调用的安全控制。不管用哪个框架,模型能调用的工具必须受控。我会做一层工具注册中心,每个工具定义好schema、权限等级、超时时间、是否有副作用。执行前做校验,执行后做审计。这样模型可以决定“想调用什么”,但能不能调、怎么调,由工程系统兜底。 所以我的判断是,LangChai…
学习内容与项目面试,在同一条路上。