页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「上下文稀释」找到 4 条内容
按专题浏览 →匹配正文：…nker）二次精排；混合检索（BM25+向量）降低单一向量空间局限；查询改写（Query Expansion）补全隐含意图 2. 上下文稀释（Context Dilution） 表现：有效信息淹没在大量检索结果中，模型注意力分散，关键细节丢失 根源：固定Top-K截断，无关文档挤占有效token；长上下文模型对中间位置信息召回弱（Lost in the Middle） 改进：动态上下文压缩，用更小模型做摘要过滤；检索结果聚类去重，减少冗余；调整文档排序策略，将高置信度结果放首…
匹配正文：…命中率提升20%+，但改写增加1次LLM调用成本 瓶颈3：上下文噪声干扰生成质量 根因： Chunk切分破坏语义、无关文档混入、长上下文稀释注意力 优化方案： 精排策略： 交叉编码器（Cross-Encoder）重排；LLM-as-Reranker（小模型打分） 上下文压缩： 检索结果摘要压缩；动态截断（按相关性加权） 生成增强： 引用标注训练（让模型明确依据）；拒绝回答机制（低置信度时触发） 影响： 答案准确率提升，但重排增加50-100ms延迟 瓶颈4：系统级权衡 优化方…
匹配正文：…实际无关的文档，减少幻觉 提升相关性：确保送入LLM的上下文高度契合用户意图 优化Token效率：重排后取Top-3即可，避免冗长上下文稀释注意力 典型方案 轻量：Cross-Encoder（如BGE-Reranker） 高效：ColBERT（延迟交互，平衡速度与精度） 重火力：LLM-as-Reranker（直接用大模型打分，成本高但效果最佳） 实际部署中，重排是性价比极高的优化点——少量延迟换取显著生成质量提升。 学习建议 建议系统学习该知识点
学习内容与项目面试，在同一条路上。