完整题目
请列举传统RAG系统在实际应用中存在的主要痛点，如检索噪声、上下文稀释、语义鸿沟等问题，并提出可能的改进思路。
本文目录
三大核心痛点
1. 检索噪声（Retrieval Noise）
- 表现：召回的Top-K文档包含无关或低质量内容，干扰模型判断
- 根源：向量相似度≠语义相关性；Embedding模型对领域术语理解不足；Chunk切分破坏语义连贯性
- 改进：引入Rerank模型（如BGE-Reranker）二次精排；混合检索（BM25+向量）降低单一向量空间局限；查询改写（Query Expansion）补全隐含意图
2. 上下文稀释（Context Dilution）
- 表现：有效信息淹没在大量检索结果中，模型注意力分散，关键细节丢失
- 根源：固定Top-K截断，无关文档挤占有效token；长上下文模型对中间位置信息召回弱（Lost in the Middle）
- 改进：动态上下文压缩，用更小模型做摘要过滤；检索结果聚类去重，减少冗余；调整文档排序策略，将高置信度结果放首尾
3. 语义鸿沟（Semantic Gap）
- 表现：用户问题与文档表述方式差异大，字面匹配失败
- 根源：Embedding的语义空间对齐不足；跨领域、跨粒度（词级vs概念级）匹配困难
- ：领域微调Embedding模型；HyDE（假设文档嵌入）用生成式查询替代原始问题；引入知识图谱做实体链接和关系推理（GraphRAG方向）