搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG 性能指标」找到 4 条内容
按专题浏览 →匹配标题与标签:RAG 评估指标与迭代陷阱 系统性评估指标与常见迭代优化方法及适用场景 评估 字节 评估与监控 RAG 评估 RAG 迭代优化 RAG 性能指标 字节
匹配正文:…错误、候选和模型版本。 然后准备多种负载:单请求、稳定并发、突发流量、冷启动、缓存命中和缓存未命中。不同场景使用同一套统计口径。 性能指标至少包括各阶段耗时、TTFT、总耗时、P95、P99、吞吐、超时和错误率。 质量指标至少包括 Recall@K、MRR、无答案错误和最终答案的证据一致性。 每次只改变一个主要因素,比如索引参数、候选数量、缓存层或模型版本。记录改动前后的性能和质量,不用一个模糊的“明显变快”替代数据。 RAG 性能优化的联合验收清单 性能、质量、稳定性和数据…
匹配正文:…领域微调模型(如GTE-medical) 上下文长度:支持512/2048/8k tokens,长文档需截断或分层处理 2. 工程性能指标 向量维度:常见768/1024,维度↑精度微增但存储和计算成本线性↑ 推理速度:batch处理吞吐量(QPS),影响实时索引构建 模型大小:小模型(如MiniLM 22MB)适合边缘部署,大模型(如GTE-large 335MB)精度更高 3. 系统兼容性 多语言支持:m3e、BGE-m3支持100+语言,单语言场景可选专用模型 微调友好…
学习内容与项目面试,在同一条路上。