搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「bad case分析」找到 44 条内容
按专题浏览 →匹配正文:… / ARES:自动化评估检索→生成的全链路 LangSmith / Phoenix:可视化trace,查看每步输入输出 人工抽样分析:建立bad case分类体系(检索失败/理解失败/整合失败) 关键原则 不要同时优化两端。先固定一端验证另一端,避免变量混杂。通常优先保证检索质量(Recall),再优化生成忠实度。
匹配正文:…答案是否在Top-K检索结果中(K通常取5或10) MRR/NDCG:排序质量,相关文档是否排在前面 诊断方法 人工抽检:随机采样bad case,人工判断"给定这个问题,理想文档应该是什么",对比实际检索结果 查询改写分析:检查原始query与改写后query的检索效果差异 向量相似度分布:观察query与top1结果的相似度分数,过低(如<0.6)说明语义空间对齐有问题 判定标准:Recall@K < 70% 或人工判断检索结果明显偏离,则问题在检索侧。 第二层:判断生成…
匹配正文:…CG,对比Top-K检索结果与人工标注的相关文档 快速验证:用固定的人工精选文档替换检索结果,若生成质量显著提升 → 检索是瓶颈 Bad Case分析:抽样失败案例,检查检索结果是否包含答案所需信息 2. 生成模块独立评估 上下文充分性测试:将正确答案所在文档强制放入上下文,观察生成是否改善 生成质量维度拆解: 忠实性(Hallucination检测):答案是否被上下文支持 相关性:是否回答用户问题而非泛泛而谈 完整性:是否覆盖上下文中的关键信息 二、检索准确但生成差的优化策…
学习内容与项目面试,在同一条路上。