搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「LLM 检索增强生成」找到 414 条内容
按专题浏览 →匹配口述回答:…,噪声就多,模型容易跑偏。我会先用 [[重排]] 模型把最相关的几篇提到前面,后面的直接截掉。如果单篇文档太长,我会用语义压缩,让大模型自己把关键句抽出来,或者用[[滑动窗口]]分段处理。多文档冲突也是个常见坑,比如一篇说退款3天到账,另一篇说5天,模型可能各取一半。我的做法是要求模型标注引用来源,比如'根据文档A,退款3天',这样冲突就能显式暴露出来。 第三步,如果Prompt和上下文都调了还是不行,那就得上模型微调。成本高,但效果直接。我会用[[LoRA]]做轻量[[SF…
匹配正文:…要点 区分"检索准确"与"生成失败"的边界,定位问题根因 掌握提示工程、上下文压缩、重排序等轻量级优化手段 理解SFT/RLHF在RAG场景的特殊性(如拒答能力、引用忠实度) 提及系统级方案如多模型路由、生成后校验 问题定位:检索准≠生成好 先确认是生成能力不足还是检索-生成对齐问题: 检索片段本身矛盾/冗余 → 上下文组织问题 模型忽略检索内容、自由发挥 → 注意力对齐问题 模型无法理解专业领域知识 → 领域适配问题 分层优化策略 1. 提示工程(零成本) 显式指令:强制要…
这道题其实问的是,怎么让大模型在对话里不瞎编。说白了,就是解决[[幻觉]]问题。幻觉分两种,一种是模型参数里根本没存这个知识,硬编;另一种是推理逻辑错了,比如算数算不对。所以我觉得核心思路就一条:让模型知道它不知道什么,然后给它工具,让它去查。 先从模型架构说起。现在主流做法是知识解耦,把语言生成和事实存储分开。比如有些模型架构会显式加个外部记忆模块,像KGLM或者RETRO那样,模型生成的时候不是全靠参数记忆,而是去查一个知识库。再一个就是[[Function Callin…
学习内容与项目面试,在同一条路上。