页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「LLM 评测」找到 218 条内容
按专题浏览 →匹配口述回答：这道题问 [[RAG]] 的实现流程，其实本质是在问：怎么把外部知识以可控的方式注入到语言模型里，同时保证检索和生成的质量。这不是一个简单搭积木的过程，而是一连串的权衡决策。 先说文档处理。很多人一上来就固定切 512 tokens，但实际落地你会发现，[[分块]]粒度决定了检索的下限。固定长度切得快，但容易砍断语义，比如一段退款政策被切到两个块里，用户问“退款时效”时可能只召回一半。我更倾向做语义分块，按段落边界或标题层级切，再把零重叠、短窗口与较长窗口作为候选，用同一评测…
匹配口述回答：…会低得没法用。 还有一个常见失败场景：查询很短，比如就一个词“退款”，向量召回的结果可能偏，因为语义太宽。这时候我会加查询改写，用大模型把查询扩写成更具体的句子，或者用多向量表示，让查询和文档多角度匹配。 精度方面，检索完会有一个[[重排]]阶段。向量检索是[[Bi-Encoder]]，速度快但精度一般；重排用[[Cross-Encoder]]，把查询和每个候选文档拼在一起算分，精度高但慢。所以我会先向量粗召回几百个，再用Cross-Encoder精排到Top-10。重排是性…
按学习路线查看教程、项目和面试题。