匹配口述回答：…落地时容易踩的坑这几个角度来说。先说评分。我倾向用分层评分加模型化打分两条腿走路。分层评分就是算一个加权和：语义匹配分我用 [[Embedding]] 模型算工具描述和任务 query 的余弦相似度，历史绩效分用[[滑动窗口]]统计近 N 次调用的成功率，再加时间衰减让旧数据权重降低，成本项就是延迟和费用归一化后做负向惩罚。权重 α、β、γ 一开始可以凭经验设，但线上要用数据调。光靠分层评分还不够，因为它只能捕捉显式规则。所以我还会训练一个轻量级路由模型，比如用 [[Lo…

#高德#Agent#智能体工具选择

面试题·评估· 阿里

Agent 工具调用用 Workflow 吗？

匹配口述回答：…数据，生成执行轨迹，把高频路径沉淀成Workflow模板。然后混合架构：Workflow管主干，比如售后工单的流程框架，但在“是否升级投诉”这种条件分支上，交给LLM判断。最后一定要有逃生舱设计，Workflow执行失败时，降级到动态Agent兜底。还有一个点值得注意，就是Workflow和Agent的切换时机。我会在Workflow里设一个“不确定性阈值”，比如LLM对分支判断的置信度低于0.6，就自动跳出固定流程，交给Agent动态规划。这其实是个[[ReAct]]循环…

#阿里云#评估与监控#Agent

面试题·评估· 字节

大模型 Agent 优缺点怎么分析?

匹配正文：…规划（Planning）：ReAct、CoT、ToT等推理范式，让模型"先想后做" 记忆（Memory）：短期对话上下文 + 长期向量数据库/知识图谱工具（Tools）：Function Calling标准化调用外部API，扩展能力边界行动（Action）：执行结果反馈形成闭环，支持多轮迭代工程关键点意图识别准确率决定入口质量工具描述工程（Tool Description）影响调用成功率错误恢复机制：超时、异常、幻觉结果的兜底处理应用场景与适配性场景适配度 …

← 上一页第 3 / 3 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#Agent#大模型 Agent 优缺点

面试题·模型微调· AIlab

RAG 检索精度提升的三大陷阱

匹配口述回答：…掉，再看正确文档是否进入 Top-K。候选里没有答案时，应该修语料覆盖、分块或召回；候选里有答案但排得靠后，才值得比较 BM25、向量召回、RRF 和 Cross-Encoder 重排。查询改写也要测语义是否漂移，不能只看召回数量变多。生成侧关注模型拿到的到底是什么证据。我会做去重和冲突检测，控制上下文预算与顺序，在 Prompt 里约束引用格式和证据不足时的拒答。评测要把答案正确性、引用支持率、faithfulness、覆盖率和拒答分开，否则一个流畅答案很容易掩盖检索或引…

#AIlab#检索器优化#RAG 优化

面试题·知识图谱· 美团

GraphRAG创新点 vs 传统RAG 是什么?

匹配口述回答：这道题其实是在问，当我们从传统[[RAG]]的向量相似度匹配，升级到基于图结构的知识检索时，到底解决了什么本质问题。我觉得核心就一句话：传统RAG擅长找相似，但不擅长做综合推理。[[GraphRAG]]把非结构化文本先转成[[Knowledge Graph]]，再基于图结构去检索，这样就能回答那些答案分散在多段、甚至多个文档里的全局性问题。具体说一下知识组织方式的区别。传统RAG是把文档切成块，每个块单独做[[Embedding]]，存到[[Vector Database]…

#美团#GraphRAG#传统 RAG 对比

面试题·知识图谱· 字节

GraphRAG 怎么提升检索质量?

匹配口述回答：…文档、跨实体、跨时间推理的问题。这就是它的边界，适合单点事实查询，不适合多跳推理。[[GraphRAG]]的核心改进，就是把检索从向量相似度升级成显式的图推理。具体来说，离线阶段先让LLM抽取出文档里的实体和关系，比如从合同里抽“供应商A”、“2024年Q3”、“纠纷事件”，然后构建成[[Knowledge Graph]]。再用社区发现算法，比如Leiden，把紧密关联的实体聚成社区，对每个社区生成多粒度摘要。在线检索时，先匹配社区摘要定位大范围，再在目标社区内做图遍历，把路…

#字节#知识图谱#GraphRAG

面试题·知识图谱· 淘天

GraphRAG 工作原理是什么?

匹配口述回答：这道题其实是在问，当我们需要从大量文档里做复杂推理的时候，光靠找相似文本块够不够，不够的话怎么升级。[[GraphRAG]]的核心思想，就是把非结构化文本先提炼成[[知识图谱]]，变成实体和关系的网络，然后在这个网络上做推理检索，而不是直接去匹配原文片段。具体流程我拆成两步说。第一步是离线构建，用LLM从文档里抽实体，比如人名、组织、概念，再把它们之间的关系也抽出来，形成一个图。然后对这个图做社区检测，比如用Leiden算法，把紧密关联的实体聚成一个社区，再给每个社区生成层…

#淘天#知识图谱#GraphRAG 原理

面试题·Prompt· 字节

Prompt 工程方法怎么选?

匹配口述回答：…提示，用Prompt Tuning微调几轮，效果还能再涨几个点。这里有个坑：连续提示虽然效果好，但换模型版本或者换底层LLM，那串向量可能就废了，得重新训。所以上线前我会特别关注模型的版本锁定，如果未来有升级计划，离散模板更稳妥。还有一个点值得注意：连续提示的迁移性问题其实比想象中更严重。我试过把同一个软提示从Llama 2 7B搬到13B，效果直接掉一半，因为模型内部的表征分布变了。这背后涉及到底层表征对齐的问题，现在有些工作在做跨模型迁移的连续提示，但还不成熟。所以我…

#字节#Prompt Engineering 方法#Prompt Tuning vs AutoPrompt

面试题·RAG· 淘天

现代 RAG 架构怎么变?

匹配正文：… 信息融合位置输入层融合（早期）：检索文档直接拼接到prompt，受限于上下文长度，容易信息淹没中间层融合（现代）：检索得到的向量通过cross-attention注入decoder各层，如Fusion-in-Decoder (FiD) 输出层/自适应融合：Self-RAG让模型自己决定何时检索、用多少检索结果 3. 端到端训练传统：检索器固定（Elasticsearch）→ 生成器固定（GPT-3）→ 零梯度流动现代：检索编码器 + 生成器联合优化 - 挑战：检索…

#淘天#RAG端到端训练#现代 RAG 架构

面试题·检索· 哔哩哔哩

直接精排所有候选，为何不可行？

匹配口述回答：…小撮。这样设计的好处是，各阶段可以独立迭代、独立做 A/B 测试，甚至降级熔断。比如召回挂了，系统还能走缓存或者兜底策略；精排模型升级，不影响召回和粗排。但这里有个坑：漏斗的前提是各阶段的打分一致性。如果召回和粗排的排序跟精排冲突太大，比如召回把精排喜欢的候选全丢掉了，那精排再好也没用。常见失败场景就是召回只看热门，忽略了用户长尾兴趣，导致精排可选范围太窄。举个例子，电商大促时，用户搜'手机'，候选池里可能有几十万款。召回阶段先根据用户历史点击和搜索词，用向量检索加关键词匹…

#哔哩哔哩#召回粗排精排#推荐系统架构

面试题·检索· 字节

RAG 重排作用与实现

匹配口述回答：…重排]]的职责分离，为什么不能一步到位。我的理解是，召回阶段追求效率，用[[Bi-Encoder]]把query和doc分别编码成向量，然后近似检索，这个阶段能快速拿到几百个候选，但精度有限。因为向量相似不总是等于真实相关，比如用户搜“退款流程”，向量可能召回“退货地址”，语义上相关但实际不是用户要的。重排就是专门解决这个问题的，用更精细的模型在几十毫秒内把这批候选重新打分排序。具体来说，重排有几个关键作用。首先是语义精排，召回用的双塔模型把query和doc独立编码，交互…

#字节#Cross-Encoder重排#RAG 重排作用与实现

面试题·评估· 字节

LLM 幻觉与安全风险怎么缓解?

匹配口述回答：…据。后处理可以把回答拆成断言，逐条检索、执行规则或交给专用验证器；有害内容、PII、恶意代码和越权请求使用分类器、策略引擎与人工升级。水印把统计信号嵌入生成 token，适合检测来源或治理传播，不会改变模型知识，因此不应列入幻觉缓解。评测要分别报告 factuality、给定来源 faithfulness、引用正确率、拒答准确性、偏见、有害内容、越狱成功率、隐私泄漏和工具调用违规。离线红队、灰度、日志抽检和事故回放共同组成闭环，任何单一安全分数都不能代表完整风险。区分幻觉…

#幻觉检测#内容安全#RLHF

面试题·模型架构· 字节

RMSNorm推理效率更高吗?

匹配口述回答：…架构使用 Pre-Norm RMSNorm。训练稳定性和推理收益要按模型、精度、kernel 与负载实测。【90秒主答】对隐藏向量 x，LayerNorm 先计算特征维均值 μ 和方差，再输出 gamma 乘 (x-μ) 除以标准差，加 beta。RMSNorm 不做 x-μ，只用均方根 sqrt(mean(x²)+epsilon) 归一化，再乘可学习 scale。两者都不依赖 batch 统计，适合变长序列和自回归模型。RMSNorm 少了均值归约与中心化，但完整 Tr…

#LayerNorm#RMSNorm#归一化技术

面试题·评估· 商汤科技

AI Agent 核心理解与未来趋势

匹配追问：…先查订单再退款，中间还可能调用API。这种自主决策和被动响应的区别，你是怎么理解的？层层追问你觉得大模型落地到业务里，最关键的升级是什么？……如果只是问答，那和之前的聊天机器人有什么区别？……那如果要让它自主完成任务，比如订机票，它需要哪些能力？……这些能力组合起来其实就是Agent，你理解中的Agent核心是什么？直球架构谈谈你对AI Agent的理解，包括它和普通LLM的本质区别，核心组件，以及主流架构模式。另外你个人对Agent未来的发展趋势怎么看，比如短期和长…

#商汤科技#评估与监控#AI Agent 理解

面试题·Prompt· 字节

RAG Generator 怎么构造 Prompt?

匹配口述回答：…、指令覆盖和模型忽略证据这几条路径逐项排查。上下文构造里还有几个很容易被忽略的点。如果多个片段重复、互补或互相冲突，去重不能只看向量相似度，否则可能把关键时间、数字和否定条件删掉。冲突证据要结合来源权威性、文档版本和更新时间处理，无法判断时把不确定性告诉用户。需要跨文档推理时，要保留实体关系和各步引用，不能压缩成一段失去来源的摘要。文档里即使出现“忽略前文”之类文字，也只能作为数据，不能获得新的工具权限。上线后我会记录证据 ID、版本、排序、截断位置、Prompt 哈希、…

#字节#Prompt工程#RAG Generator Prompt