匹配口述回答：…失败后进入明确的失败/待复核状态或有界重试，不把解析失败静默变成某个有效业务标签。这层是兜底，不能依赖它，但加上去能提高鲁棒性。选型上，我的经验是分场景。快速验证，用提示工程加后处理就够了。生产部署，我会优先用约束解码库或者 Function Calling，因为可靠性高。如果领域很特殊，比如医疗诊断分类，我还会加一层微调，让模型更理解领域语义。每次请求需要确定允许的有限标签集合；它可以在请求之间动态变化，更新schema/文法即可，不一定要重训模型。常见集成错误是文法与…

#Agent#LLM 输出限定#封闭标签集

面试题·多模态· 淘天

截图组件功能怎么用 RAG 解释?

匹配正文：…知识库构建收集UI设计规范、组件库文档、产品手册作为文本知识关键：将组件截图/设计稿与功能描述配对，构建图像-文本对用多模态Embedding模型（CLIP、SigLIP或专用UI模型如UIBert）编码入库 3. 跨模态检索用户截图经相同视觉编码器得到query embedding 两级检索：先全局匹配找相似界面类型，再组件级局部匹配检索结果：相似组件的功能说明、使用场景、交互规范 4. 增强生成 Prompt整合：组件位置图 + OCR文本 + 检索到的知识片段…

#淘天#多模态#多模态 RAG

面试题·RAG· 百度

RAG 项目指标化复盘

匹配正文：…赖。完整链路：采集与解析 → 分块和元数据 → 索引 → 查询处理 → 召回 → 重排 → 上下文 → 生成与引用 → 观测。选型取舍：稀疏/稠密/混合检索、RRF/加权融合、是否重排及参数依据。因果证据：固定评测集上的基线、单变量消融、延迟与成本变化、bad case 和上线边界。事实填空项目服务【真实场景】，语料来自【合法来源】，规模和版本【】。我负责【本人模块】，基线【】。失败切片【】由【日志/标注/回放】发现，采用【真实改动】，结果【真实指标和口径】，代价【…

← 上一页第 8 / 8 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#百度#RAG项目复盘#RAG 项目指标化复盘

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配口述回答：…回、精排过滤、生成合成。但真正上线跑过的人都知道，最影响体验的其实是中间两个阶段，检索和精排。先说检索延迟这个瓶颈。如果你的[[向量库]]到了千万级，用[[HNSW]]索引，P99延迟很容易飙到500毫秒以上，用户等不了。我的做法是分场景：对高频query，我会加一层缓存，用query哈希去重，命中率能到百分之三四十，这部分延迟直接降到个位数。对长尾query，我会把索引从HNSW换成[[IVF-PQ]]，牺牲百分之一二的召回率，换来十倍的速度提升。这里有个前提：你的业务场…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 阿里

RAG 召回又快又准靠什么?

匹配正文：…索引结构层面 HNSW图索引：平衡召回率与查询速度，适合中等规模；超大规模时采用IVF-PQ或ScaNN降低内存占用量化压缩：裸向量每维FP32/FP16/INT8为4/2/1字节，PQ码长由子向量数和每码位宽决定；总索引另计结构，质量变化必须实测，不固定4–8倍。磁盘索引：FAISS的IndexIVFPQ + ondisk模式，牺牲部分延迟换取容量工程架构层面分片（Sharding）+ 路由层，支持水平扩展预过滤（metadata filter）减少候选集，避免全…

#阿里云#召回链路优化#RAG 召回优化

面试题·模型架构· 京东

MLA 与 KV Cache 怎么用?

匹配追问：…ey和Value？……那如果序列很长，比如几十万token，显存怎么扛得住？……有没有办法在不损失太多质量的前提下，把缓存降到一个向量级别？直球架构解释一下MLA的原理，它和标准MHA在KV缓存上有什么区别？再结合KV Cache说一下MLA为什么能节省显存，以及它在大模型长上下文推理中的优化意义。

#MLA#KV Cache#注意力机制

面试题·模型架构· 字节

RMSNorm推理效率更高吗?

匹配口述回答：…架构使用 Pre-Norm RMSNorm。训练稳定性和推理收益要按模型、精度、kernel 与负载实测。【90秒主答】对隐藏向量 x，LayerNorm 先计算特征维均值 μ 和方差，再输出 gamma 乘 (x-μ) 除以标准差，加 beta。RMSNorm 不做 x-μ，只用均方根 sqrt(mean(x²)+epsilon) 归一化，再乘可学习 scale。两者都不依赖 batch 统计，适合变长序列和自回归模型。RMSNorm 少了均值归约与中心化，但完整 Tr…

#LayerNorm#RMSNorm#归一化技术

面试题·Agent· 蚂蚁

多轮对话上下文状态管理机制

匹配追问：…几轮但重要信息不能丢，你怎么做？……高并发下多个请求同时改同一个会话呢？直球架构设计一个多轮对话的上下文状态管理方案。包括存储选型、动态更新和截断策略、会话生命周期，还有分布式下的一致性和性能保障。直接说你的架构思路。

#蚂蚁#Agent#多轮对话上下文管理

面试题·Agent· 字节

AutoGen vs LangGraph 怎么选?

匹配口述回答：…我选，生产环境我优先LangGraph，因为可控性比灵活性更重要，毕竟出错了能回放、能审计，这是工程落地的底线。一句话定位：框架选型本质是可控性和灵活性的权衡核心差异：对话驱动 vs 状态图驱动通信与流程控制的对比适用场景与落地风险工程师姿态的判断收尾约4分钟实际落地常采用混合架构，将AutoGen的对话作为LangGraph的一个节点嵌入。面试官可能会追问混合架构的具体实现方式、状态如何同步、以及如何保证对话节点的结果可审计。

#字节#百度#Agent

面试题·检索· 美团

RAG 检索器与知识库怎么搭?

匹配追问：…又要实时检索，你会怎么搭这个系统？……那检索到的东西怎么喂给模型，才能让它准确引用？直球架构聊一下RAG的技术细节。你从检索器选型、知识库分层、到生成模型集成，整个链路怎么设计的？比如双路召回、混合排序、Prompt组装这些，具体怎么落地？

#美团#知识库构建#RAG 检索器设计