面试题 · RAG
搜索「评测集」匹配到口述回答，相关段落已展开。查看匹配内容 ↓
从模型架构、训练策略、推理优化和外部工具集成等角度出发，探讨提升类似ChatGPT这类对话模型输出准确性的可行技术路径。
知识增强架构
长上下文优化
按学习路线查看教程、项目和面试题。
数据质量提升
对齐训练
解码策略
动态检索触发
工具调用架构
知识库构建
关键权衡：架构与训练改动成本较高，也需要持续评估；RAG 与 Agent 更易按模块迭代，但检索、工具调用和多轮生成会增加延迟。应固定任务、评测集和预算，再比较事实正确率、引用支持率、延迟与成本。
场景切入
假设你在做客服问答，用户问“我的订单到哪了”，你调了物流API返回了结果。但下次用户再问类似问题，模型直接凭记忆回答，信息可能过期。你怎么从架构、训练到推理层面改进，让模型输出更准？
层层追问
对话模型经常瞎编答案，你觉得根源在哪？……模型架构上有什么手段能减少幻觉？……训练数据怎么处理？……推理时有什么策略？……如果还不够，是不是要接外部工具？
直球架构
从模型架构、训练策略、推理优化和外部工具集成四个维度，具体说说如何提升对话模型输出的准确性？每个维度至少讲两个可落地的技术方案，并提一下各自的适用场景和权衡。
这道题问的是，怎样让对话模型的输出更准确。我会先明确任务和评测口径，再从架构、训练、推理与工具四个层面组合改进。没有一种方法能一次解决所有幻觉。
先说架构与知识。RAG把外部检索资料放进生成上下文，检索器和生成器可以独立更新，不要求生成模型必须使用编码器—解码器结构。它适合查询政策、文档等经常变化的知识，但前提是检索结果相关、权限正确、引用能支持回答。Self-RAG进一步研究模型怎样决定是否检索与评价证据。长上下文可以减少截断，但能处理多长、质量怎样，取决于具体模型和训练配置，不能统一承诺128K，也不能把长窗口当作事实核验。
再说训练。先检查数据质量、知识时效、任务覆盖和已知与未知的边界。对齐训练要区分DPO与GRPO：DPO用偏好对直接优化策略，不必另训显式奖励模型；GRPO通过组内奖励计算优势，省去critic或value模型，奖励仍然需要来自奖励模型或可验证规则。它们都不会自动保证事实正确，仍要用目标任务的错误样本验证。
推理时可以比较多路径采样、自我验证与动态检索，但需要把增加的延迟和成本一起算清。检索触发可以依据问题时效、所需证据和经过校准的不确定性信号；token概率低不能直接解释为事实错误。阈值是否有效，要在真实任务上测。
最后是工具。对订单、计算、代码执行这类任务，优先通过有权限约束的工具取得可核验结果，再让模型组织答案。ReAct等循环可以把推理与工具调用串起来，但必须处理超时、错误返回和多轮累积误差。知识库侧可以比较关键词与向量混合检索、重排和更新策略，记录每个模块对最终质量的实际贡献。
我的实施顺序是先固定任务、评测集和预算，建立基线，再分模块比较事实正确率、引用支持率、延迟和成本。架构与训练的投入较高，RAG和Agent更方便按模块迭代，但也增加链路复杂度。选择要由测量结果决定，并持续跟踪失败样本。