匹配口述回答：…回答”，而是从文档处理、召回、[[重排]]、上下文组装到生成约束的一整套链路。任何一环出问题，最后答案都会受影响。比如检索没找对，prompt 写得再好也没用；检索找对但上下文塞太多噪声，模型也可能被带偏。我会特别强调一点：RAG 的上限往往先由检索结果决定，再由生成模型决定。一个成熟系统要同时评估检索侧的 Recall@K、MRR，也要评估生成侧的[[忠实度]]和答案正确率。 RAG本质：用检索约束生成，解决幻觉和时效性离线预处理：文档切块、Embedding、建向量数…

#百度#RAG三阶段#RAG 工作流程

面试题·检索· 百度

检索失败时 RAG 怎么兜底?

匹配口述回答：…型去过滤。但这个有前提，就是你的重排模型得够强，不然噪音太多反而影响质量。如果检索侧怎么都救不回来，那就得靠模型侧兜底了。我会在Prompt里显式告诉LLM：当前没有检索到相关知识，请基于自己的知识谨慎回答，并明确标识这是推测。高风险场景，比如金融合同或者医疗问答，我倾向于直接拒绝，返回「知识库未覆盖该问题」，宁可不答不能错答。这其实是业务容忍度的取舍，客服场景容错率低，就得保守；通用闲聊可以宽松一些。最后是用户侧闭环。我会把失败的Query记录下来，触发离线分析，看看是…

#百度#小鹏#美团

面试题·模型训练· 海尔

LoRA 低秩分解 vs 全量微调怎么选?

匹配追问：LoRA的秩r如何选择？有什么经验或理论指导吗 LoRA和Adapter、Prompt Tuning相比各有什么优劣实际部署中LoRA权重如何与基座模型合并，推理延迟会增加吗场景切入假设现在要为同一基座适配多个下游任务，存储和优化器状态是主要约束。你会怎样评估 LoRA 是否合适，并验证质量是否达到任务门槛？层层追问 LoRA 怎样表示权重增量？……参数量如何按输入维、输出维和 rank 计算？……target modules 选错会怎样？……什么时候可能不如全参数微…

← 上一页第 10 / 10 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#LoRA#参数高效微调#低秩分解

面试题·推理优化· 京东

推理框架硬件支持对比

匹配口述回答：【30秒速答】服务端高并发可先压测 vLLM 和 SGLang，NVIDIA 上追求特定模型优化可评估 TensorRT-LLM，本地、CPU、Apple Silicon 或异构设备可看 llama.cpp。TensorRT-LLM 当前支持从 Hugging Face 权重转换和高层 API，不是必须先转 ONNX。TGI 有流式、连续批处理、张量并行和监控，但官方已进入 maintenance mode，也没有覆盖所有业务的通用安全过滤。StreamingLLM 是长流…

#vLLM#TensorRT-LLM#llama.cpp

面试题·项目与经历· 美团

信息抽取：规则 vs LLM

匹配口述回答：…移。即使使用严格 JSON schema，也只是约束输出结构，金额、主体和日期是否抽对仍需验证。Few-shot 的示例本身属于 prompt 上下文，例子越多通常输入 token 越多。它的商业价值可能来自少写规则、少重试或更快覆盖新场景，而不是输入 token 自动下降。【完整展开】一个稳妥的文档抽取链路可以先做文件类型、编码和固定字段规则，再把非结构化段落交给 LLM，随后执行类型校验、值域校验、跨字段一致性、权限检查和来源定位。比如发票金额不能只相信模型输出，还要…

#规则引擎#LLM应用#成本优化

面试题·多模态· 小红书

Stable Diffusion 各版本怎么选?

匹配口述回答：…bo 的定位也要单独说。它通过 Adversarial Diffusion Distillation 把 SDXL 压到很少的网络评估次数，模型卡给出的典型范围是 1 到 4 步，并建议关闭传统 classifier-free guidance。官方重点分辨率是 512×512，尝试 768 或 1024 并不等于保持 SDXL 的画质，文生字也仍是公开限制。它适合交互草图、实时预览和低延迟创意工具，但不应因为速度快就宣称细节、文字与高分辨率都和 SDXL 相同。训练数据同…

#扩散模型#文生图#UNet架构

面试题·Agent· 得物

Agent 大模型优化三方向

匹配口述回答：…正去执行任务、调用工具、和环境交互的时候，现有的通用模型到底缺什么，以及怎么从模型本身去补。我理解核心思路是，不能指望纯对话模型靠提示词就变成[[Agent]]，需要在架构、训练、输出格式上做系统性优化。先说架构层面。最本质的改动是让模型原生支持结构化输出。通用模型输出自由文本，但Agent需要的是能被程序直接解析的指令，比如JSON格式的工具调用。我在实际场景中会这么做：在输出层加一个专门的JSON head，或者用类似Outlines库的解码策略，在生成时就约束格式。更…

#得物#Agent#Agent 大模型优化

面试题·检索· 字节

RAG 系统实现：组件与流程

匹配口述回答：…回来之后，我会加一道 [[重排]]，用一个 [[Cross-Encoder]] 模型重新算一遍相关性，把最相关的3到5条挑出来拼到prompt里，最后丢给LLM生成答案。说到优化，我比较常用的是上下文压缩。检索回来的片段里可能有噪声，直接拼进去会干扰模型。我会先用一个小模型过滤一遍，只保留确实相关的句子。还有一个方向是 [[Self-RAG]]，让模型自己判断要不要检索，如果知识库里没有就直接说不知道，避免 [[Hallucination]]。举个例子，企业SOP合规场景…

#字节#RAG系统实现#RAG 实现

面试题·检索· 美团

RAG 系统核心组件怎么搭?

匹配口述回答：…型看到的上下文质量。第四层是生成器集成。这里不是简单把 TopK 拼进去，而是要做上下文治理：去重、截断、压缩、排序、保留来源。Prompt 里我会明确要求模型基于资料回答，资料不足就说不足，关键结论要带引用。对于低置信检索结果，可以直接拒答或转人工，而不是让模型自由发挥。最后是评估和监控。检索侧看 Recall@K、MRR、NDCG；生成侧看答案正确率、[[忠实度]]、引用准确率；线上还要看延迟、成本、拒答率和用户反馈。没有这层闭环，RAG 很容易变成“感觉效果还行”，…

#美团#RAG工程实现#RAG 系统实现