搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG bad case」找到 69 条内容
按专题浏览 →匹配口述回答:…]]或者LangSmith跑全链路trace,看每一步的输入输出。但说实话,自动化指标只能筛出明显的问题,真正决定效果上限的是人工bad case分析。我会按检索失败、理解失败、整合失败三类建个分类体系,每个case拆开看。 这里我多说一句:很多人一上来就调Embedding模型或者换大模型,其实更常见的问题是分块策略太粗糙。比如固定512字符切分,很容易把一句完整逻辑切散。我倾向于先做语义分块,用[[Parent Document]]结构保留上下文,这样召回时既能拿到高精度…
匹配正文:…度、答案相关性) 消融实验与人工分析的结合 典型错误模式的识别(检索不准、生成幻觉、协同失效) 核心诊断思路:分层定位,逐层验证 RAG故障排查的关键是隔离变量,把端到端问题拆解到具体模块。 第一层:判断检索模块是否合格 关键指标 Recall@K:正确答案是否在Top-K检索结果中(K通常取5或10) MRR/NDCG:排序质量,相关文档是否排在前面 诊断方法 人工抽检:随机采样bad case,人工判断"给定这个问题,理想文档应该是什么",对比实际检索结果 查询改写分析:…
匹配正文:…场景 需人工校验,控制幻觉比例 公开benchmark适配 跨模型可比 检查license,避免数据污染 关键:覆盖多轮对话、边界case(如无答案、需澄清)、跨领域query。 标注流程 RAG标注: 检索相关性:人工标注doc与query的相关性等级(0-3分) 答案准确性:对比标准答案,标注幻觉、遗漏、矛盾 Agent标注: 轨迹标注:记录正确工具调用序列作为gold path 状态检查:关键步骤的中间状态是否正确 效率优化:先用规则/模型预标注,人工抽检+修正,迭代提…
学习内容与项目面试,在同一条路上。