匹配正文：…先用状态机。工具层：工具 schema、参数校验、权限、超时、幂等、重试、熔断和结果校验。记忆与知识层：短期状态、长期记忆与 RAG 分开治理，并执行租户隔离和删除策略。安全与人工层：敏感动作审批、最小权限、提示注入防护和审计。观测层：记录 trace、模型与 Prompt 版本、工具输入输出、token、延迟、错误码和回退路径。教学假设：数据分析 Agent 假设系统接收自然语言分析请求。流程可以是：识别数据域 → 检索 schema 和口径 → 生成查询计划 →…

#商汤科技#Agent#AI Agent 架构

面试题·Agent· 百度

Agent 推理模式对比

匹配正文：…tion Calling / Tool Use 核心机制：模型原生支持结构化工具调用（OpenAI、Claude、文心等）特点：延迟低、格式稳定、易集成；但单轮调用，无显式推理链适用场景：API对接、实时数据查询、标准化工具集成的生产环境 3. LangChain / LlamaIndex 核心机制：模块化编排，封装了Prompt管理、记忆、工具链等特点：生态丰富、上手快；但抽象层厚，定制灵活性受限适用场景：快速原型验证、RAG+Agent结合的标准化应用 4. Au…

#百度#Agent 推理模式对比#Agent 推理模式有哪些？ReAct、Plan-and-Execute 与 Reflection

面试题·Agent· 百度

Agent 系统性能优化陷阱

…OpenAI Function Calling的parallel模式），串行改并行流式输出（Streaming）降低首token延迟，提升用户感知执行层优化引入执行引擎（如LangGraph、LlamaIndex Workflows）管理状态机长任务拆分子Agent，分布式执行减少单点阻塞推理机制优化模型层面意图识别用小模型（Distill/SLM），复杂推理才调大模型投机解码（Speculative Decoding）、KV Cache复用加速生成常见查询…

← 上一页第 11 / 14 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配正文：

#百度#Agent#Agent 性能优化

面试题·文档处理· 字节

Embedding+向量库怎么做语义匹配?

匹配口述回答：这道题问的是[[RAG]]里语义匹配怎么做，本质上就是两件事：[[嵌入]]模型负责把文本变成向量空间里的点，[[向量数据库]]负责在这些点里快速找邻居。分开看都不复杂，但配合好了才能从海量文档里精准召回。离线阶段先处理文档。文档解析完要[[分块]]，这是第一个容易出问题的地方。固定长度分块简单，但照搬一个固定值容易把一句话拦腰切断，丢失上下文。语义分块按段落或句子切，保语义完整，但计算开销大。我的做法是把固定长度、递归切分、语义分块，以及无重叠、短重叠、较长重叠都作为候选，…

#字节#文档处理#向量检索

面试题·文档处理· 字节

Embedding 模型选型 vs 落地流程?

匹配口述回答：…量混在一起，检索质量会崩。所以上线前我会建立一个版本管理机制，每次模型更新，用同样的query集做回放测试，对比Recall@K和延迟，通过才切换。说到混合检索，其实还有个权衡：什么时候用稠密向量，什么时候用稀疏向量？比如订单号检索，稀疏向量或者关键词匹配更准；而意图理解，稠密向量更好。真正稳定的RAG系统，往往是稠密加稀疏再加[[重排]]，但重排会增加延迟，所以需要根据业务场景做取舍。所以整体上，我会把Embedding模型选型看成是工程和效果的平衡，没有银弹。我更倾向…

#字节#Embedding 模型选型#RAG 向量化流程

面试题·文档处理· 百度

常用分块方法有哪些?

匹配正文：…nt-specific）：利用标题、段落等天然边界，适合结构化文档重叠窗口（Overlap）策略缓解边界信息丢失问题文本分块是RAG系统的关键预处理环节，直接影响检索质量和生成效果。常用策略可分为以下几类： 1. 固定长度分块（Fixed-size Chunking）按固定token数或字符数切分，具体长度作为候选变量优点：实现极简，便于批量处理，向量化效率高缺点：硬截断可能切断句子语义，边界信息易丢失适用：快速原型、对语义连贯性要求不高的场景 2. 递归分块（R…

#百度#文本分块策略#RAG chunking

面试题·评估· 得物

Agent部署关键环节与陷阱

匹配正文：…册发现机制与Schema约束多轮对话状态持久化与Token预算管理任务调度策略（串行/并行/ReAct循环）全链路可观测性（延迟/成功率/成本）降级熔断与重试策略设计 1. 模型服务化层推理引擎：推荐vLLM（PagedAttention+Continuous Batching）或自研，首Token延迟<200ms，吞吐>1000 token/s 部署形态：多副本+负载均衡，GPU与CPU分离部署（工具执行放CPU节点）关键优化：KV Cache按session隔…

#得物#Agent#Agent 系统部署

面试题·评估· 高德

Agent 多工具如何评分选路?

匹配正文：…模型降级策略：首选失败时，按预排序快速切换备选典型场景适配场景策略选择关键考量导航/打车（高德场景）规则+打分混合延迟极敏感，先过滤再排序复杂数据分析 LLM-based 需理解工具能力差异，允许稍高延迟批量任务处理成本优先排序牺牲单条速度换整体成本最优学习建议建议先掌握Agent基本架构，再学习工具调度策略，结合RAG与决策模型案例理解打分与排序机制的实际应用。

#高德#评估与监控#Agent

面试题·评估· 字节

Agent 系统优缺点怎么分析?

匹配正文：… 规划步骤多，错误会级联放大；ReAct 循环可能陷入死循环或过早终止场景影响：金融风控场景下，错误调用资金接口后果严重 2. 延迟与成本每步规划都需 LLM 推理，10 步任务 = 10 次调用，Token 成本指数级上升场景影响：实时推荐场景难以满足 200ms 响应要求 3. 工具可靠性外部 API 变更、返回格式异常导致 Agent 崩溃缺乏有效的中断恢复机制 4. 可观测性与调试长链路黑盒，难以定位哪一步规划出错三、与 RAG 的协同设计维度 RAG…

#字节#Agent#Agent 系统优缺点

面试题·评估· 美团

LLM 幻觉治理方法对比

匹配口述回答：…，比如对数字用计算器，对日期查日历，对实体做 [[NER]] 后去知识库核对。但后处理的成本很高，尤其是调用搜索引擎或者 API，延迟会明显增加。所以我会根据场景做取舍：在客服退款这类高准确率要求的场景，我会对关键实体做工具验证；在闲聊场景，我可能只做一次 Self-Consistency 就够了。说到这，其实还有一个方向我最近在关注，就是让模型自己反思，比如 [[Self-RAG]] 或者 [[Chain-of-Verification]]。它让模型先输出，然后自己检查，…

#美团#幻觉治理#LLM 幻觉治理方法对比

面试题·评估· 字节

Agent 系统优缺点与发展前景

匹配正文：…定性链式错误传播：前期步骤出错导致后续全部失效 LLM本身的不确定性被放大到整个执行链路效率与成本多次LLM调用+工具执行，延迟显著增加（秒级→十秒级） Token消耗不可预测，商业化场景成本敏感安全与可控工具权限边界模糊，过度授权有风险，限制过严则能力受限 "幻觉"从文本生成延伸到动作决策，后果更严重技术趋势与前景方向演进趋势架构单Agent → 多Agent协作（如MetaGPT、AutoGen），角色分工专业化规划 ReAct → 更高效的树搜索/…

#字节#评估与监控#Agent

面试题·评估· 字节

Attention 在多轮对话中有什么局限?

匹配正文：…-Attention是O(n²)复杂度，Agent多轮对话上下文轻松破万token 每轮新输入都要与全部历史做Attention，延迟线性增长，实时性崩塌 2. KV Cache显存瓶颈多轮对话需缓存每层的K、V矩阵，长度随轮次累积工具调用返回的结果、RAG检索的文档进一步膨胀缓存显存占用 = 层数 × head数 × head_dim × 序列长度 × batch_size × 2(K+V) 3. 位置编码外推失效训练时固定长度（如4K），Agent推理时远超此长度…

#字节#评估与监控#Attention 局限性

面试题·评估· 虾皮

大模型怎么用于搜索检索?

匹配正文：答案要点区分传统搜索与大模型搜索的本质差异（语义理解 vs 关键词匹配）阐述RAG核心架构（检索+生成）及关键模块说明混合检索策略（向量+稀疏+图谱）分析大模型在搜索中的具体应用环节（改写、摘要、问答）指出落地挑战（延迟、幻觉、成本、数据更新）核心方案：RAG驱动的智能搜索大模型在搜索场景的核心落地形态是 RAG（检索增强生成），不是替代传统检索，而是分层增强。技术架构层级功能大模型作用查询理解层意图识别、查询改写、多轮澄清纠错、扩展、消歧（如"苹…

#虾皮#大模型搜索检索#搜索检索技术方案

面试题·评估· 蚂蚁

Agent项目背景与技术方案怎么写?

匹配正文：…组合或效果数字作答。所有内容都应对应本人代码、实验、文档或线上记录。回答框架项目目标：真实业务问题、用户、主指标及安全/成本/延迟约束。本人工作：明确设计、实现、实验、联调、上线和维护中本人承担的部分。系统链路：意图或路由、RAG、工具、状态、质检、人工和观测如何衔接。选型证据：与规则、单 Agent、工作流或其他模型的对比及真实实验。结果可信度：基线、样本、切分、统计窗口、线上流量、置信区间和副作用。事实填空项目是【】，服务【】，我负责【】，团队负责【】。系…

#蚂蚁#评估与监控#Agent 项目经验

面试题·评估· 字节

Agent 建模方法怎么选?

匹配正文：…rvation 循环，每步根据环境反馈即时调整适用：工具调用、实时信息获取（如查天气、算数学）优点：容错性强，单步失败可修正；延迟低缺点：长程规划能力弱，易陷入局部最优 2. 规划优先（Plan-and-Execute）机制：先完整生成多步计划，再逐条执行适用：复杂多步骤任务（如数据分析报告生成）优点：全局最优，减少重复调用缺点：计划僵化，环境变化时难以调整；初始计划错误代价高 3. 记忆增强型短期记忆：对话历史、滑动窗口上下文长期记忆：向量数据库存储经验，…

#字节#评估与监控#Agent

面试题·评估· 字节

大模型 Agent 优缺点怎么分析?

匹配正文：… stakes 决策（医疗/金融） ⭐⭐☆☆☆ 容错极低，需人机协同兜底核心局限性模型层面幻觉传导：规划错误会级联放大，传统RAG难以解决推理链幻觉上下文瓶颈：复杂任务超出窗口，关键信息丢失系统层面延迟与成本：多轮工具调用导致TTFT和总耗时不可控安全边界：工具权限管控、沙箱隔离、提示词注入攻击体验层面不可解释性：用户难以理解Agent"为什么这么做" 过度依赖：简单任务也走复杂规划，性价比低未来趋势与挑战方向判断 Multi-Agent协作：从单Age…

#字节#Agent#大模型 Agent 优缺点

面试题·评估· 安克科技

评估集防泄漏与复现

匹配口述回答：…、基线模型运行脚本都要配套。还有一个延伸点：评估数据集本身也可能引入偏差，比如标注者偏好某些回答风格，这时候可以用[[Self-RAG]]让模型自己反思评估结果，但会带来额外延迟和成本。一句话定位：构建评估数据集本质是模拟真实用户反馈边界划分：RAG与Agent评估的差异，以及RAG vs 微调的适用场景标注策略：三层质量控制与可复现性多样性保障：三维覆盖与量化指标偏差控制：位置、流行度、标注者、模板偏差落地风险与前提：常见失败场景与工程师取舍约4分钟评估数…

#安克科技#评估与监控#Agent

面试题·模型微调· 科大讯飞

Prompt 怎么设计和优化?

匹配正文：真实性边界这是 Prompt 实践经历题。场景、公司、基线、样本数、准确率、幻觉率、token 和延迟都必须来自候选人的真实实验。题库不提供可直接背诵的“优化成绩”。回答框架任务与失败定义：输入、输出、错误类型、主指标和线上约束。初始基线：模型及版本、原 Prompt、解码参数、评测集和基线结果。迭代过程：每轮只改变有限变量，例如指令分层、上下文、示例选择、结构化输出或校验。因果验证：固定模型与数据做单变量对照，按切片报告质量、格式成功率、延迟和成本。上线治理：…

#科大讯飞#阿里#模型微调

面试题·模型微调· 百度

Embedding 模型选型考虑哪些因素?

匹配正文：…适配方法（微调、对比学习）能说出性能评估指标（MRR、Recall@K、NDCG）选型核心维度 1. 业务场景匹配语义检索（RAG）：选Sentence-BERT、BGE、M3E等专为句子相似度优化的模型聚类/分类：通用BERT即可，甚至可以用更小模型代码/多模态：需专用模型（如CodeBERT、CLIP） 2. 关键性能指标因素权衡要点维度 768/1024维效果好，但存储和检索成本高；384维适合大规模上下文长度 512 vs 8192，长文档需截断或层…

#百度#向量检索#Embedding 模型选型

面试题·模型微调· 百度

怎么提升对话模型事实一致性?

匹配正文：…生成环节引用生成：强制模型标注信息来源，便于溯源和人工审核实际权衡场景推荐方案高频、事实稳定预检索+缓存，减少实时检索延迟时效性强实时RAG + 搜索引擎API 专业领域领域知识图谱 + 微调混合高 stakes 场景人机协同：模型生成+人工校验工作流核心原则：让模型"知道它不知道什么"，比单纯扩大知识覆盖更重要。

#百度#模型微调#评估与监控

面试题·检索

向量数据库和普通数据库有什么区别?

匹配正文：…几千维的向量，语义越接近的内容，向量在空间中的距离越近；查询时输入一个查询向量，数据库返回距离最近的 Top-K 条记录。这正是 RAG（检索增强生成）里"根据问题找相关文档"这一步的基础设施。和传统数据库的对比维度传统数据库（MySQL）向量数据库（Milvus/Faiss 等）存什么结构化行数据高维向量 + 元数据怎么查精确条件（WHERE）相似度 Top-K（近邻搜索）结果完全匹配的集合按距离排序的"最像的几条" 典型索引 B+ 树 HNSW …

#入门#基础概念#向量数据库

面试题·知识图谱· 字节

GraphRAG 原理与构建方法

匹配正文：…4. 评测分别评估实体/关系准确率、证据 Recall@K、路径或社区命中、答案正确性、Faithfulness、构建成本和更新延迟，并与向量 RAG 及混合方案做同集对照。结论：GraphRAG 是对证据组织和检索方式的扩展，是否优于向量检索取决于查询类型、图质量和端到端评测。图解 GraphRAG 原理与构建方法图解

#字节#GraphRAG 实现原理#知识图谱构建

面试题·知识图谱· 美团

GraphRAG 架构原理与优势

匹配口述回答：好的，这道题其实是在问，当传统[[RAG]]碰到复杂关联查询时怎么破。[[GraphRAG]]的本质，说白了就是用结构化语义网络替代扁平向量空间。传统RAG把文档[[切块]][[向量化]]，丢掉了实体间的显式关系，比如“张三的上级是谁”，它只能找语义相似的片段，但GraphRAG通过LLM抽实体、关系、属性，构建[[知识图谱]]，再发现社区，形成实体到关系到社区的三层索引。具体架构我以微软的开源方案为例。索引阶段，先分块，然后LLM做[[实体链接]]和[[关系抽取]]，生成…

#美团#知识图谱#GraphRAG 架构

面试题·知识图谱· 淘天

伪多模态与原生多模态差在哪?

匹配口述回答：面试官你好，这个问题其实是在问：[[多模态]][[RAG]]到底是不是真的在理解图像，还是只是把图像转成文字后再做检索？本质区别就是是否共享语义空间。先说伪多模态。它的思路很简单：图像进来，先用 [[OCR]] 或者像 [[CLIP]] 这种视觉编码器，把图像转成一段文字描述，比如用 BLIP2 生成 caption，然后把这个文本[[向量化]]，丢进 [[Vector Database]] 里检索，最后喂给 LLM 生成答案。说白了，就是把多模态问题强行压成单模态问题，图…

#淘天#知识图谱#伪多模态RAG