RAG Query 改写方法

这道题其实在问一个核心矛盾：用户表达的问题和文档库里的索引之间存在语义鸿沟，怎么填上。我会从两个阶段来拆，检索前的查询改写，和检索后的提示词构建。先说查询改写，我一般会看场景选策略。比如用户问得很模糊，像‘退款政策’，我会用多查询扩展，生成几个语义等价的变体，比如‘退货流程’‘退款条件’，并行检索后再去重聚合。这是最稳的。如果问题很专业，比如医疗领域，我会用 HyDE，让模型先生成一个假设答案，再用这个答案的 [[Embedding]] 去检索。你可能会想，这不引入[[幻觉]]了吗？对，所以前提是你的领域知识库足够封闭，生成的假设答案不会跑偏。再一个，复杂多跳问题，像‘2024年X公司营收多少，它CEO是谁’，我会拆成子问题链，先查营收再查CEO，逐层检索。但真正落地时，我不会只用一种。比如电商客服场景，用户问‘为什么我的订单退款还没到’，既模糊又涉及多步，我会把多查询扩展和子问题分解混着用，线上只用一层改写控制延迟，复杂情况走异步多路召回。这里有个坑：改写过度会导致语义漂移。我上线时会加一致性校验，改写后的query和原query的embedding相似度低于阈值就回退。说白了，改写不是越多越好，得在召回率和速度之间平衡。好，检索到文档后，提示词构建是关键。我的模板核心就三块：角色定义、上下文组织、引用标注。先说角色，比如‘你是电商客服专家，基于参考资料回答’，这能约束模型不瞎编。上下文我会按相关性分数倒序排列，动态截断token预算，把高分文档放前面。[[重排序]]这一步很重要，我会用 [[Cross-Encoder]] 算分数，作为metadata注入prompt，引导模型关注高置信片段。引用标注强制用 [^index^] 格式，并且要求‘无依据则不标注’，从源头防幻觉。举个例子，用户问‘满减政策’，如果检索到的文档里两条矛盾，一条说‘满200减20’，另一条说‘满300减30’，我会在prompt里要求模型列出不同观点并说明依据，而不是硬选一个。工程上还有个细节：负例过滤。检索结果里置信度低的文档直接丢掉，不放进上下文，避免干扰。这里有个常见失败场景：长文档截断丢失关键信息。我的做法是检索时做段落级切分，而不是整篇文档，这样截断时损失更小。最后说一下我的取舍。我更倾向把查询改写和提示词构建看成一套组合拳，而不是独立优化。改写时留一些弹性，提示词里用引用和角色来兜底。如果只让我选一个重点，我会选 引用标注，因为它在防幻觉上是性价比最高的。 另外，我最近在关注一个方向：当检索到的文档本身质量不高时，怎么让模型自己判断哪些可信。比如用 [[Self-RAG]] 让模型先反思检索结果再回答，而不是直接生成。这个在开放域场景里效果不错，但计算开销会翻倍，得看业务能不能接受。