匹配口述回答：…十个甚至上百个时，比如抖音电商场景，全量工具描述塞进prompt就不现实了，token太长，LLM也容易选错。这时候就需要引入工具检索机制，先根据用户问题检索出最相关的几个工具，再让LLM选。这个检索怎么做，是关键词匹配还是向量相似度，或者混合，就值得深入讨论了。所以整体上，我更倾向把工具集设计看作一个持续迭代的过程，从粒度、schema、错误处理到扩展性，每一环都要根据实际业务场景和数据反馈来调整，没有银弹。一句话定位：工具集设计本质是LLM与外部世界的接口规范核心原…

#字节#Agent#Agent 工具集设计

面试题·文档处理· 字节

RAG 数据清洗与 Chunking 怎么选?

匹配口述回答：这道题问的其实是，[[RAG]]系统里数据从原始文档变成能被检索的向量块，中间这个管道怎么设计才能保证质量，避免垃圾进垃圾出。我一般把数据清洗和文本[[切块]]放在一起考虑，因为这两步是连着的，清洗不好切块也跟着出问题。先说数据清洗，核心就三件事。先说格式标准化，比如PDF转文本的时候，表格、标题这些结构标记要尽量保留，不然切块后语义就断了。再看噪声去除，像页眉页脚、页码、重复内容，还有低质量[[OCR]]出来的乱码，这些要过滤掉。还要看质量过滤，太短的片段，比如少于50个…

#字节#文档处理#RAG 数据清洗

面试题·评估· 科大讯飞

RAG 解决了 LLM 哪些局限?

匹配口述回答：…只靠微调，你每改一次政策就得重训一次，根本不现实。但RAG落地也有不少坑。前提是你的知识库质量得高。如果文档[[分块]]不合理，检索出来的片段牛头不对马嘴，模型再聪明也没用。常见失败场景是，用户问一个很具体的问题，比如“订单号12345的状态”，但你分块时把整个订单详情页当成一个大块，检索出来一堆无关信息，模型就糊涂了。所以我会特别关注Chunk策略，比如用语义切分而不是固定字数，或者用[[Parent Document]]保留上下文层级。另外，检索本身也不能只靠向量相似度…

← 上一页第 20 / 20 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#科大讯飞#阿里#RAG 架构

面试题·评估· 美团

LLM 幻觉治理方法对比

匹配口述回答：…里用户问“退款政策是什么”，你从知识库拉回最新文档，模型照着说就行。但它不太适合那些需要模型深度推理的任务，比如合同条款分析，因为检索回来的片段可能互相矛盾，模型自己又没能力做逻辑仲裁。那落地的时候，RAG 最大的风险其实不在生成，而在检索。检索质量决定了 RAG 的上限。如果你用简单的向量检索，召回率可能很高但精度差，混进一堆噪声，模型反而更容易被带偏。所以我会在检索阶段做 [[Hybrid Search]]，把关键词和向量结合起来，再加上 [[Rerank]] 把最相关…

#美团#幻觉治理#LLM 幻觉治理方法对比

面试题·评估· 京东

RAG vs RLHF 幻觉治理

匹配口述回答：这道题其实是在问，大模型产生[[幻觉]]，我们到底从哪下手。检索增强提供证据，偏好训练调整行为；幻觉成因可能重叠，不能把[[RAG]]和[[RLHF]]分别对应成不知道与知道但乱说两类。先说 RAG，它的核心思路是开卷考试。模型生成前，我先从外部知识库检索相关文档，比如用 [[Hybrid Search]] 把关键词和向量检索结合起来，然后把文档拼到 prompt 里，告诉模型“你就按这些材料回答”。这样给模型提供了可追溯证据，但提示不是硬约束，模型仍可能误读资料或编造。这…

#京东#RAG 与 RLHF#RAG vs RLHF 幻觉治理

面试题·评估· 快手

Chain/Agent/Tool 怎么分工?

匹配正文：…态决策模块化设计价值层面具体体现模型无关统一接口支持OpenAI、Anthropic、本地模型等组件可插拔换模型、换向量库、换工具只需改配置记忆管理 ConversationBufferMemory等抽象简化上下文维护生态集成一键接入数百种文档加载器、向量存储局限与权衡过度抽象：简单场景引入不必要的复杂度调试困难：链式调用堆栈深，错误定位难性能损耗：运行时反射和序列化开销实际选型建议：快速原型选LangChain，生产环境复杂系统可考虑自研轻量框…

#快手#评估与监控#Agent

面试题·评估· 阿里

主流Agent框架优缺点与场景怎么选?

匹配口述回答：…快速验证想法，真要上线，你得把它当参考实现，自己重写精简版。再来说LlamaIndex。它的核心是Index，各种索引结构，比如向量、树、关键词、图。它天然是为[[RAG]]设计的，Query Engine封装了检索加合成的标准流程。所以如果你要做企业知识库问答，或者结构化数据查询，LlamaIndex非常顺手。它的检索策略很丰富，RAG效果容易调优，而且它和LangChain可以互操作，通过一个工具包装就能把LlamaIndex的检索能力当工具给LangChain用。但…

#阿里云#评估与监控#Agent

面试题·评估· 高德

多工具评分排序机制

匹配正文：…分模块实现 1. 分层评分体系最终得分 = α·语义匹配分 + β·历史绩效分 + γ·成本惩罚项维度计算方式语义匹配用embedding模型计算工具描述与任务query的余弦相似度历史绩效滑动窗口统计近N次调用的成功率，引入时间衰减成本项归一化后的延迟/费用，作为负向惩罚 2. 模型化打分（进阶）训练轻量级工具路由模型（如LoRA微调的BERT）：输入：任务上下文 + 候选工具元信息输出：各工具的概率分布优势：可捕捉"隐式偏好"，如特定场景下优先选…

#高德#Agent#智能体工具选择

面试题·评估· 快手

LangChain 链式调用原理

匹配口述回答：…重复的、共性的东西抽象出来，让开发变得像搭积木一样。LangChain本质上是面向LLM的编程框架，它通过分层抽象把模型调用、知识检索、流程编排这些事拆成了六个核心模块。先说一下模型输入输出层，它统一了不同模型的接口，你换模型只需要改个类名，比如从ChatOpenAI换成HuggingFacePipeline，代码主体不用动。再一个是检索层，它把文档加载、切分、[[向量化]]、存储这一套串起来，[[RAG]] 场景下最常用。然后是链，它定义了一个固定流程，比如先查知识库再问…

#快手#评估与监控#Agent

面试题·评估· 商汤科技

AI Agent 核心理解与未来趋势

匹配正文：…g）任务分解、子目标设定、反思调整记忆（Memory）短期上下文 + 长期知识库工具（Tools）外部API、代码执行、检索增强行动（Action）执行具体操作并观察反馈主流实现范式 ReAct：推理与行动交错，适合需要逐步探索的任务 Plan-and-Execute：先规划再执行，适合明确可分解的任务 Multi-Agent：多角色协作，模拟团队工作流未来发展看法短期（1-2年）：工程化与可靠性从"能跑通"到"跑得稳"：降低幻觉、提高工具调用成功率成…

#商汤科技#评估与监控#AI Agent 理解

面试题·评估· 百度

Reflection 和 Memory 怎么协同?

匹配口述回答：…缺一不可。我更倾向于在工程实现上，先用轻量级的反思机制，比如简单的自我对话，配上结构化的记忆存储，快速验证效果，再逐步引入更复杂的向量检索和知识图谱。本质是让智能体学会自我修正和知识沉淀反思机制：自我评估与迭代优化记忆机制：分层存储与检索两者协同：反思驱动记忆更新，记忆支撑反思质量落地风险与工程取舍约4分钟反思和记忆的协同本质是在探索和利用之间做平衡，记忆里只有失败案例会导致Agent过于保守。面试官可能会追问如何平衡探索与利用，或者如何设计记忆的写入策略来避…

#百度#Agent#Multi-Agent System

面试题·评估· 安克科技

Agent/RAG 评估指标与挑战

匹配口述回答：…准确率、延迟、成本，没有一套万能指标能覆盖所有场景。我会把评估分成两个层面来讲：检索层和生成层，因为它们的关注点完全不一样。先说检索层。在 [[RAG]] 系统里，检索是第一步，核心指标是 Recall@K 和 MRR。Recall@K 看的是前 K 个结果里有没有正确答案，MRR 则更看重正确答案排得靠不靠前。举个例子，一个客服退款系统，用户问“我订单超时了，怎么退款”，如果检索没召回退款流程文档，后面生成再强也没用。所以检索层我通常会同时用关键词和向量两种方式，也就是 …

#安克科技#评估与监控#Agent

面试题·评估· 美团

Agent 功能模块怎么分工?

匹配口述回答：…可能搜到过期的促销政策。真正落地时，Search 要跟业务知识库配合，比如先搜内部的知识库，再搜外部网页，并且要设定时间范围。如果检索结果质量差，比如 top-k 太小或者相关性分数低，Agent 会基于错误信息做决策，反而加剧幻觉。所以前提是检索系统本身要可靠，比如用 [[Hybrid Search]] 结合关键词和向量，再加一层 [[Rerank]] 过滤低分结果。再说 Coding。这个模块赋予了 Agent 动手能力，把自然语言需求转成可执行代码。输入是任务描述和上…

#美团#评估与监控#Agent

面试题·模型微调· 滴滴

大模型落地技术范式怎么选?

匹配口述回答：…辑。但微调成本高，数据要清洗标注，算力也要钱，而且模型知识是静态的，政策文档一更新就得重训。RAG 正好补这个短板，它外挂知识库，检索加生成，知识可以实时更新，回答还能溯源。比如智能客服，政策文档三天两头改，用RAG就能保证回答永远是最新版本，而且用户问为什么这么赔，你可以直接翻到原文。但RAG也有坑，检索质量决定了效果上限，如果 [[Embedding]] 做不好、[[Chunk]] 切得不合理，模型拿到一堆噪音，生成的结果反而更差。所以我的经验是，如果知识更新频繁或者需要…

#滴滴#模型微调#Agent

面试题·知识图谱· 海尔

训练/推理/外部知识怎么选?

匹配口述回答：…触发人工审核。这里有个坑：自我验证如果模型本身知识不足，会越检查越错，所以要结合外部知识。外部知识集成，[[RAG]] 是核心。检索相关文档作为上下文，把生成约束在检索内容里。但 RAG 不是万能的，检索失败时生成会崩。所以我会做两件事：一是提升检索质量，用 [[Hybrid Search]] 结合 [[BM25]] 和 [[Embedding]]，再加 [[Rerank]] 精排；二是优雅降级，检索不到就明确说“没有相关信息”，而不是瞎编。 [[Knowledge Gra…

#海尔#外部知识集成#大模型幻觉

面试题·RAG· 阿里

LangChain vs LlamaIndex 场景怎么选？

匹配口述回答：…哪个框架做主力。本质是工作流编排 vs 数据检索 LangChain适合多工具Agent场景 LlamaIndex适合知识库精细检索实际落地常组合使用风险与取舍约4分钟百万级数据量时LlamaIndex默认索引可能性能不足，需要分库、缓存或改用更轻量的Faiss。面试官可能会追问大规模索引的优化策略，比如分片、缓存、HNSW参数调优，或者LlamaIndex与向量数据库的集成方案。

#阿里云#AI框架选型#LangChain vs LlamaIndex

面试题·RAG· OPPO

搜索评分如何融合点击与停留?

匹配正文：…eep 架构分别记忆和泛化评估验证离线：NDCG@10、MAP 在线：AB测试对比人均点击次数、搜索成功率学习建议掌握信息检索基础，学习排序模型中多特征融合方法，理解点击率与停留时长等行为特征的归一化与加权逻辑。

#OPPO#评分函数归一化#Scoring Function 设计

面试题·Agent· 美团

Agent工具接口与错误处理

匹配口述回答：…由降低错误率，但会增加延迟和决策跳数。面试官可能会追问分层路由的具体实现，以及如何权衡延迟和准确率，或者问有没有其他方案（比如用向量检索匹配工具描述）。

#美团#Agent#Agent 工具设计

面试题·模型微调

LLM 封闭标签如何强约束?

匹配口述回答：…大，比如上千个，约束解码的性能会下降，因为每一步要过滤的 token 太多。这时候我会考虑用分层标签，先输出大类再输出小类，或者用向量检索先缩小候选集，再让模型从候选中选。这其实变成了检索加精排的思路。所以总的来说，我的做法是多层防护：提示工程打底，约束解码做核心保障，微调提升能力，后处理兜底。具体用哪几层，取决于你对可靠性的要求、标签的规模和动态性。我更倾向于在解码层下功夫，因为它最可控，不依赖模型“自觉”。一句话定位：封闭标签输出本质是可控生成问题提示工程：基线手段…

#Agent#LLM 输出限定#封闭标签集

面试题·Prompt· 字节

Agent 系统架构与 Prompt 设计原则

匹配口述回答：…是卡死。记忆机制上，短期记忆就是对话历史，但我会用[[滑动窗口]]控制长度。长期记忆我用[[RAG]]，把历史案例和知识文档[[向量化]]，需要时检索。这里有个前提：知识库要定期更新，并且做质量校验，不然检索到过期信息反而害了Agent。容错方面，我特别关注两点。一是自我反思，每次执行后追加一步检查结果，如果发现错误就回退重来。二是中断恢复，保存执行状态快照，万一超时或崩溃，可以从断点继续，不用从头开始。其实还有一个更难的问题我还在想，就是当多个Agent协作时，怎么协…

#字节#Agent#Agent 系统设计