匹配口述回答：…执行Agent，管理简单，但中心容易成为瓶颈。网状拓扑延迟最低，适合点对点密集交互，比如多个Agent协同写代码，但连接数一多维护成本爆炸。真正落地我倾向分层拓扑，把Agent按职能分组，组内网状，组间星型。举个例子，客服退款场景里，订单查询Agent和退款执行Agent在同一个业务域内用网状互调，而它们跟外部合规检查Agent之间走星型统一入口。再说序列化。很多项目直接用JSON，但Agent间通信频繁时，解析开销不小。我会在瓶颈路径上用 Protobuf 或 Flat…

#同花顺#多Agent系统优化#Agent架构优化

面试题·评估

RAG 效果差怎么排查？

匹配口述回答：…法端到端追踪与取舍判断约4分钟分块策略比Embedding模型更常成为瓶颈，语义分块加Parent Document结构是低成本高收益的优化点。面试官可能会追问语义分块的具体实现、Parent Document的召回策略、或者如何评估分块质量。

#检索诊断#生成诊断#RAG 效果诊断

面试题·评估· 字节

Agent 建模方法怎么选?

匹配口述回答：…误导决策。Multi-Agent则是多个专精Agent分工，比如规划者、执行者、验证者，适合代码生成加测试修复这类复杂任务。但协调成本高，容易互相等待。说到Multi-Agent，我最近在关注一个方向：如何让Agent自主决定什么时候需要协作，而不是硬编码分工。比如一个Agent发现自己能力不够时，主动去拉另一个Agent进来，有点像动态团队组建。这个在复杂任务里特别有意思。所以整体上，我会把ReAct作为基线，然后根据场景加轻量规划或记忆。我更倾向先保证鲁棒性，再优化效…

← 上一页第 28 / 30 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#字节#评估与监控#Agent

面试题·评估· 安克科技

评估集防泄漏与复现

匹配口述回答：…据集本身也可能引入偏差，比如标注者偏好某些回答风格，这时候可以用[[Self-RAG]]让模型自己反思评估结果，但会带来额外延迟和成本。一句话定位：构建评估数据集本质是模拟真实用户反馈边界划分：RAG与Agent评估的差异，以及RAG vs 微调的适用场景标注策略：三层质量控制与可复现性多样性保障：三维覆盖与量化指标偏差控制：位置、流行度、标注者、模板偏差落地风险与前提：常见失败场景与工程师取舍约4分钟评估数据集本身可能引入偏差，可以用Self-RAG让模型自…

#安克科技#评估与监控#Agent

面试题·模型微调· 字节

架构与训练怎么提升多轮一致性?

匹配口述回答：…突。架构上，单纯拉长上下文窗口有帮助，但不是唯一方案。长上下文可以用稀疏注意力、[[滑动窗口]]注意力、分层编码这些方式降低计算成本，让模型能看更长历史。但对非常长的会话，只靠窗口硬塞不现实，所以我会加显式记忆模块。显式记忆可以分短期和长期。短期记忆保留最近几轮完整对话，因为最近内容对当前回复最重要；长期记忆保存用户偏好、已确认事实、任务状态、历史摘要和关键实体。每轮结束后，系统抽取高价值信息写入记忆库，推理时再根据当前 query 检索相关记忆拼回上下文。这里要注意，记…

#字节#模型微调#多轮对话一致性

面试题·模型微调· 联通

RAG/蒸馏/微调怎么选?

匹配口述回答：…思token，比如“我有没有依据”，然后根据这个token决定要不要引用来源。这个方法的好处是灵活，不依赖外部知识库，但坏处是推理成本高，而且对模型自身能力有要求，不是所有模型都反思得好。其实还有一个方向，就是知识编辑，直接修改模型参数里某个具体事实。比如公司改了某个产品的价格，你不想重新训练，就定位到模型MLP层里存这个价格的神经元，直接改。但这方法风险很大，因为模型的知识是分布式存储的，你改一个点可能连带影响别的事实。所以我对它的看法是，适合做紧急热修复，但绝对不能当常…

#联通#大模型幻觉缓解#检索增强

面试题·模型微调· 美团

向量检索怎么保准又保真?

匹配口述回答：…’和‘iPhone’在向量空间里可能很近，但‘苹果’和‘水果’也可能很近，Cross-Encoder 能更好地做区分。不过它的计算成本高，所以只能用在精排阶段，对候选集大小有限制，一般几百条以内。还有一个容易被忽略的点是查询侧优化。用户输入的 query 往往很随意，比如‘火锅’可能想找‘重庆火锅’或者‘老北京涮肉’，这时候做查询改写，扩写同义词、纠错、补全意图，就能显著提升召回率。另外，如果 query 里带有结构化约束，比如‘附近’、‘100块以内’，我会在查询理解阶段…

#美团#向量检索准确性#向量检索相关性

面试题·模型微调· 快手

Agent 系统怎么调优优化?

匹配口述回答：…型会学歪。所以实践中我倾向先用SFT把基线拉起来，再用RL做局部优化，比如只在工具选择这一步加RL。最后是Prompt工程，这个成本最低，见效也快。比如动态示例选择，根据用户意图从库里捞相似的成功案例拼到提示里；还有工具描述优化，用LLM自己迭代描述，看哪个版本调用成功率最高。但Prompt的缺点是上限低，复杂任务容易超出上下文窗口。所以我的判断是：SFT打底，Prompt兜住简单场景，RL往上拔上限。真正落地时，比如做一个客服退款Agent，我可能先SFT一批典型的退款…

#快手#Agent#Agent 调优

面试题·模型微调

LLM 标签约束解码

匹配口述回答：…[[RLHF]]或[[DPO]]对输出非法标签的行为打低分。或者给每个标签分配一个特殊token，降低混淆。微调能提升基础能力，但成本高，而且标签一变就得重训。所以实际落地我倾向组合用：SFT打底，让模型本身更可靠；解码约束保底线，确保输出永远合法；后处理兜底，处理边界情况。具体选型要看场景：标签少且快速验证，提示工程加后处理就够了；生产环境要求高可靠，必须上约束解码加微调；如果标签动态变化，那就以后处理为主，避免频繁重训。这里有个风险：约束解码会限制模型能力，如果标签集…

#约束解码#标签集合#LLM 标签约束解码

面试题·RAG

RAG 完整流程分几步？

匹配口述回答：…提示词交给大模型，让它根据给定资料回答。这里有个关键点：分块策略不是一刀切的。固定长度切分简单，但容易切断语义；语义切分效果好但成本高。真正落地我倾向混合策略，比如先用段落标题做粗切，再对长段落做[[滑动窗口]]重叠。另外，如果检索质量上不去，别急着调模型，先检查分块和向量化。常见失败场景是，一个复杂问题只检索到部分相关块，答案自然偏。这时候可以加 [[Rerank]] 做二次排序，或者用[[混合检索]]把关键词和向量结合起来。所以我会把[[RAG]]看成一套系统工程，离…

#入门#基础概念#RAG流程

面试题·RAG

大模型幻觉是什么？怎么缓解？

匹配口述回答：…]] 框架里的 [[Faithfulness]] 和 Answer Relevance 指标，结合人工抽检来评估。不过评测本身也有成本，需要根据业务场景平衡。一句话定位：幻觉本质是预测下一个词，不是事实校验为什么产生：训练目标、数据限制、不知道边界缓解手段：RAG+提示词+说不知道边界与风险：只能缓解不能根除，高风险要人工兜底约2分钟幻觉评测的具体方法和工程取舍面试官可能会追问如何量化幻觉率、用什么指标、评测成本怎么控制

#入门#基础概念#大模型幻觉

面试题·知识图谱· 字节

RAG+KG Agent 动态更新机制

匹配口述回答：…的规则加模型打分，我还会加灰度发布。比如新图谱先切5%流量，跑一段时间看召回率和用户反馈，没问题再全量。异常自动回滚，这比事后修复成本低得多。再一个，和RAG的联动。图谱更新后，向量索引不能阻塞等待，得异步刷新。查询时走双路召回，向量相似度加图谱结构化检索，结果融合排序。这里有个细节：图谱更新后，向量索引可能还没更新，导致召回不一致。我会在查询时加版本号过滤，确保用户看到的是同一个版本的数据。说到这，其实还有一个容易被忽视的点：知识图谱的动态更新，和RAG里的[[Chun…

#字节#Agent#知识图谱动态更新

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配追问：…会怎么设计，让模型既能用上这些新知识，又不产生幻觉？层层追问如果想让大模型具备外部知识，你有什么思路？……那如果我用微调，更新成本太高怎么办？……检索增强具体怎么落地？从数据准备到最终生成，你一步步讲一下。直球架构请你详细解释RAG的技术原理和实现流程，包括离线建库、在线检索和增强生成三个阶段，以及你可能碰到的坑和优化手段。

#字节#检索生成流程#RAG 技术原理

面试题·知识图谱· 字节

GraphRAG 怎么提升检索质量?

匹配口述回答：…。不过GraphRAG不是银弹。落地有个重要前提：你的文档必须实体密集、关系丰富。如果文档是松散的闲聊记录，或者实体很少，图构建的成本就白花了，效果甚至不如传统RAG。而且图构建依赖LLM做实体抽取和[[关系抽取]]，这一步有精度问题，抽错了会带偏下游。上线我会特别关注两点：一是实体抽取的准确率和召回率，二是社区划分的粒度，太粗会丢失细节，太细又增加检索延迟。所以我的判断是：GraphRAG和传统RAG不是替代关系，而是互补。日常简单查询走向量检索，又快又准；遇到复杂推理、跨…

#字节#知识图谱#GraphRAG

面试题·知识图谱· 字节

向量库 vs 知识库 vs 符号记忆？

匹配口述回答：…能定位。比如客服要查“这个订单的支付金额和退款金额”，用SQL一查就准。但缺点是需要预定义schema，对模糊语义不友好，而且维护成本高。所以它适合做精准确认，不适合做语义搜索。最后是外部符号记忆，你可以理解成Agent的“便签纸”。典型实现像MemGPT里的虚拟上下文，Agent自己读写外部存储的笔记、待办清单。优点是显式可控，可编辑，适合多步骤任务追踪和跨会话目标维护。比如一个Agent要执行“先查库存，再算折扣，最后生成报价”，每一步的中间状态就写在符号记忆里。但缺点…

#字节#Agent#Agent 长期记忆

面试题·知识图谱· 海尔

训练/推理/外部知识怎么选?

匹配口述回答：…问题，模型要坦诚说“我不确定”。RLHF 阶段，奖励模型不能只优化流畅度，要加事实性维度，对编造内容扣分。这里有个前提：事实性标注成本很高，否则奖励模型本身会学歪。推理侧优化是性价比最高的。先说解码策略，约束解码强制关键事实来自输入上下文，适合摘要、问答这种输入里就有答案的场景。自我验证是生成后让模型自己检查“这个陈述有依据吗”，可以迭代几轮，但要注意别死循环。多采样投票就是多次采样取一致答案，能降低随机性带来的幻觉，但成本翻倍。举个例子，企业 SOP 查询场景，员工问“…

#海尔#外部知识集成#大模型幻觉

面试题·多模态· 字节

截图界面怎么用 RAG 解析?

匹配口述回答：…成为瓶颈，我会考虑用[[GraphRAG]]，把组件间的交互关系建模成图，用图遍历来替代部分检索，这样召回更精准，但图构建和维护的成本也更高。所以整体上，我会把这个系统看成“视觉+知识”的桥梁，核心不是模型多强，而是知识库的质量和检索的精准度。我更倾向先小规模验证，比如只做登录页，跑通再铺开，避免一开始就追求全量覆盖导致失控。一句话定位：本质是多模态+知识库的融合图像解析模块：检测+OCR+结构化输出知识库构建：组件层、产品层、场景层，用CLIP对齐检索生成：混合搜…

#字节#多模态#多模态 RAG

面试题·多模态· 阿里

Multi-modal RAG 是什么?

匹配口述回答：…混排时，单纯靠向量距离不够，通常需要二次[[重排]]，比如用[[Cross-Encoder]]对图文对做更精细的匹配。但重排的计算成本很高，所以要做级联策略。最后说说我的判断。多模态RAG的落地前提是数据质量和索引成本可控。如果业务里多模态数据量巨大，比如上亿张图，索引构建和更新就是个大工程。我会更倾向于先用纯文本RAG兜底，对多模态查询做降级处理，比如用图片的文本描述替代原图检索。等基础设施成熟了再逐步上线多模态。说到底，多模态RAG的本质是把“检索”从文本知识库扩展到多…

#阿里#多模态#Multi-modal RAG

面试题·Prompt· 百度

Agent系统架构怎么选？

匹配口述回答：…nt为主，但比如代码生成加测试这种场景，一个Agent写代码，另一个Agent跑测试、写报告，天然适合拆开。不过多Agent的协调成本很高，对话轮次会指数增长，所以我会先做Agent内[[Reflexion]]，让单个Agent自己反思优化，而不是一上来就上多Agent。所以整体上，我更倾向于把Agent系统看作一个可编程的执行框架，LLM是大脑，工具是手脚，记忆是便签，异常处理是安全气囊。每个部分单独看都不复杂，但合在一起要稳定、可扩展、能兜底，这才是设计的关键。一句话…

#百度#评估与监控#Agent

面试题·Prompt· 字节

Agent 能力怎么系统提升?

匹配口述回答：…轨迹，环境反馈用在线RL，但奖励模型要精细设计，防止奖励黑客。我特别关注世界模型，让Agent在内部模拟器里想象规划，减少真实试错成本。但落地时最大的风险是灾难性遗忘，新学的能力覆盖了旧的。我会用记忆回放和正则化，定期离线训练更新策略，同时保留旧经验。其实还有一个前沿方向我没细说，就是让Agent不仅能调工具，还能自己创造工具，比如根据需求生成临时脚本执行。这要求模型有代码生成和验证能力，但安全风险更大，适合封闭环境。所以我的判断是，提升Agent能力不是选一个方向猛堆，…

#字节#百度#评估与监控

面试题·Prompt· 字节

动态Prompt怎么保证策略对齐?

匹配口述回答：…两个模型互相审对方的输出，配合红队测试持续发现漏洞。不过，如果任务目标本身是动态变化的，比如客服规则每周更新，那形式化验证的维护成本会很高，这时候怎么平衡更新频率和验证开销，是个值得深入的问题。所以整体上，我不会迷信某一种方法，而是把解码控制、反馈校验和形式化验证当成工具箱，根据场景风险等级选配。上线前我一定会做红队测试，跑大量对抗样本，确保安全边界够硬。点题：动态Prompt策略输出的一致性、安全性与对齐解码控制层：约束解码与logits处理器反馈校验层：验证器集…

#字节#Prompt工程#Agent

面试题·Prompt· 高德

ReAct 如何结合推理与工具使用？

匹配口述回答：…进一步提升鲁棒性，能不能结合[[Tree-of-Thoughts]]的思路，让模型同时探索多条行动路径，然后选最优的那条？不过这样成本会高很多，需要权衡。所以，我不会把ReAct看成提示工程的替代品，而是把它看作系统设计中的一个决策点。更倾向的做法是：简单任务用CoT直接推，复杂、需要外部交互的任务用ReAct，甚至可以把两者混合，比如先用CoT做初步推理，再用ReAct去验证和补充信息。最终怎么选，取决于任务对实时性和准确性的要求，以及工具链的成熟度。本质是让模型边想边…

#高德#Agent#ReAct 框架

面试题·Prompt· 高德

ReAct 框架为什么优于纯提示?

匹配口述回答：…据，拿到结果再组织回答。但这里有个边界划分的问题。不是所有任务都需要ReAct。纯提示对于简单的事实问答、常识推理，其实更快更省成本。比如“苹果和橘子哪个更甜”，这种纯提示就能搞定。真正落地的时候，往往是ReAct和纯提示混着用，或者ReAct跟 [[RAG]] 结合。比如客服退款场景，用户说“我买的东西降价了，能退差价吗”，纯提示只能给个通用话术，但ReAct可以拆成几步：先查订单状态，再查当前价格，然后算差价，最后看是否符合满减政策。每一步都调用不同的工具，比如订单系统…

#高德#Agent#ReAct 框架

面试题·Prompt· 华为

思维链(CoT)什么时候用?

匹配口述回答：…步骤越多，错误累积的概率越高。所以前提是模型得有基本的推理能力，比如GPT-4或Claude这种级别的。上线我会特别关注token成本和延迟，如果业务对实时性要求高，比如客服实时对话，我会在简单问题上直接回答，只在复杂问题上触发CoT，或者用[[Zero-shot]] CoT，加一句‘Let's think step by step’动态触发。另外，光靠单条CoT路径还不够，因为模型可能走错分支。所以我更倾向用[[Self-Consistency]]，采样多条CoT路径，然…

#华为#思维链 CoT#Chain-of-Thought 使用场景