页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「RAG 幻觉」找到 218 条内容
按专题浏览 →匹配口述回答：…是个很实用的策略：先轻量模型过滤掉明显不相关的，再重量级模型精排，这样能在成本和精度之间找到平衡。 所以回到问题，我会把重排看成 RAG 从“可用”到“好用”的关键一步。具体落地时，我倾向于至少部署一个轻量 Cross-Encoder，高价值场景再叠加 LLM 重排。但前提是你要评估好延迟和成本，否则重排本身可能成为瓶颈。 不过还有一个点值得注意，就是 LLM 做重排时，它自己也可能产生[[幻觉]]，尤其当文档本身有歧义时，它给的分数不一定可靠。所以我会额外加一层置信度校验，…
匹配口述回答：…排几乎是必选项，否则生成结果很容易被无关段落带偏。 再讲生成层。上下文压缩很重要，因为大模型的输入长度有限，而且噪声会直接导致[[幻觉]]。我会让LLM先对检索回来的文档做摘要，过滤掉冗余信息，只保留最相关的段落。或者用专门的压缩模型，比如LlamaIndex里的那种。提示工程上，角色设定要明确，比如“基于提供的参考资料回答，不知道就说不知道”，再加几个few-shot例子，展示正确的引用格式和拒答方式。这样能有效降低幻觉。 流程层，我比较关注自适应RAG。不是所有问题都需要…
匹配口述回答：我觉得[[RAG]]这道题本质上是在问：当你需要让模型回答它没训练过的新知识时，怎么在知识新鲜度和生成质量之间做平衡。说白了，RAG不是把检索和生成简单拼起来，而是要在信息密度、计算成本和[[幻觉]]风险之间反复取舍。 先说离线文档处理这一块。很多人上来就按固定长度[[切块]]，比如512 token一刀切，这在通用场景还行，但遇到代码库或者论文，语义就被拦腰砍断了。我的做法是：先看业务文档的结构，代码按函数切，论文按章节切，普通文档按段落切，然后把零重叠、短窗口与较长窗口作…
学习内容与项目面试，在同一条路上。