匹配正文：…丢失、文本描述质量依赖、embedding空间对齐 2. 序列建模：长行为序列处理方案做法问题直接输入将N条行为拼成超长prompt 上下文窗口限制、推理成本爆炸摘要压缩 LLM先压缩历史为兴趣标签信息损失、压缩策略设计分层架构传统模型做短期，LLM做长期兴趣多源信息融合复杂快手场景：视频消费序列极长（数百上千），需结合SIM-style采样 + LLM语义理解 3. 召回/排序：生成式 vs 判别式生成式召回（如TIGER、P5）： LLM直接生成候…

#快手#LLM推荐架构#LLM 推荐系统

面经·项目面试

记忆文件与发现索引，少写一步会怎样？

匹配正文：…层分开，也能解释为什么补一条链接还没有完成全部工作。文件已落盘，默认入口为什么还是空的？先看新会话实际拿到什么。主程序构建系统提示词时，会取得记忆目录的位置，再调用 load_memory_index 读取索引内容，交给提示词构建器。构建器加入记忆的使用说明和当前索引；它没有顺着所有链接，把每份正文自动展开进去。这条入口使索引承担了很具体的职责：告诉模型有哪些可用材料，大致记录什么，应该去哪里读。目录位置和使用规则提供背景，索引里的书名与链接才指向某一份具体记忆。即使目…

#Agent#Memory#持久记忆

面经·项目面试

Agent 压缩了上下文，为什么任务还在，条件却丢了？

匹配正文：…段必须叫 collected_at，保留旧字段，空值跳过”。如果最后这句话在一千个字符之后，摘要模型连它都看不到。这时候，让总结提示词多强调一次“不要遗漏用户约束”，也无法补回输入里不存在的内容。排查应该先展开实际送入摘要函数的文本，看关键条件在哪一步消失，而不是直接换一个更强的总结模型。沿这个分支做一个离线检查：给原压缩函数传入二十四条消息，把三条条件放在第一条消息的一千一百个字符之后，用固定返回文本代替模型调用。传入摘要函数的内容里，三条条件已经全部消失。这次检查能…

← 上一页第 11 / 13 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#Agent#上下文压缩#记忆管理

面试题·模型训练· 海尔

LoRA 低秩分解 vs 全量微调怎么选?

匹配正文：…否适合要看基座是否已有相关能力、样本覆盖、是否还需新增知识以及质量评测。多适配器服务还要考虑合并、切换、组合冲突和基座版本绑定。工程验证落地先列出模型配置和所有target modules，用脚本逐层求和并与框架报告的trainable params核对。固定数据与token预算，比较r为8、16、32、64以及Q/V、全attention、attention加MLP等组合，统一看目标指标、通用回归、过拟合、峰值显存和吞吐。风格任务还要做内容保持、风格一致、安全和人工盲测…

#LoRA#参数高效微调#低秩分解

面试题·RLHF与对齐· 美团

GSPO 与 SFT、PPO、GRPO 区别

匹配口述回答：…on，是大模型强化学习算法，不是 Generalized Supervised Policy Optimization。它对同一 prompt 采样一组响应，用组内奖励形成优势，核心是按整条序列计算新旧策略的 importance ratio，并做序列级裁剪、奖励和优化。这样优化粒度与常见序列级 reward 更一致。论文报告它比 GRPO 更高效、表现更好，并稳定 MoE 的 RL 训练，但结论只适用于相应实验，不能说所有模型都必然胜出。【90秒主答】 GRPO 类方法通…

#GSPO#策略优化#离线强化学习

面试题·项目与经历· 美团

Agent 哪项能力最先商业化?

匹配口述回答：…公开代码训练，产品运行阶段仍有新的隐私与知识产权责任，需要权限和审计单独治理。规模化产品还需持续应对模型升级带来的行为变化。同一prompt和仓库在新模型上可能得到不同修改，企业需要版本锁定、回归和灰度。若缺少这些能力，工具链成熟也可能在升级时产生不可控返工，影响真正的商业复用。说明Coding的工程优势删除估值和市场口径审计训练数据治理成本比较其他能力的真实边界给出分阶段商业验证约4分钟公开GitHub代码为何不能直接视为高质量、低成本且可自由训练的数据。 …

#智能体商业化#Coding Agent#技术成熟度评估

面试题·RLHF与对齐· 快手

PPO vs GRPO vs DPO 适用场景?

匹配正文：…型和在线rollout，但仍依赖参考策略或预计算参考对数概率，并受 beta、偏好噪声、长度偏差和分布外问题影响。 GRPO由同一prompt采样一组答案，依据组内奖励相对值估计优势，省去critic；它仍需要规则或奖励模型给分。可验证数学/代码任务适合构造奖励，但“更稳定/更好”必须由任务实验确认。选型时先问：反馈是偏好对还是可验证标量奖励，是否需要当前策略持续探索，能否承担rollout，以及怎样监控reward hacking、KL、长度和人工质量。不要按固定模型数量…

#RLHF#PPO#DPO

面试题·Agent· 阿里

Agent 中 RAG 瓶颈怎么破?

匹配正文：…，保留关键段落；使用摘要模型生成"记忆卡片" 结构化注入：检索结果转为Markdown表格/JSON，降低模型解析负担 Agent工程优化检索决策前置：LLM先判断"是否需要检索"，减少无效调用结果缓存分层：Embedding结果缓存（小时级）vs 生成结果缓存（会话级）失败降级链：检索超时→用参数知识回答→标记待核实学习建议建议从检索效率、上下文管理、模型协同等角度理解RAG全流程，结合真实案例学习性能优化策略。

#阿里云#Agent#Agent RAG 瓶颈

面试题·Agent· 百度

工具调用方法怎么选?

匹配口述回答：…。它的优点是透明可解释，容错性强，失败了可以重试，而且不需要特殊训练。但延迟高，token消耗大，需要精心设计 [[System Prompt]] 来约束行为。第三种是通用Tool Use，像 [[Toolformer]] 这类方案，模型在生成文本里内嵌特殊标记，比如 [TOOL: calculator] 2+2 [/TOOL]，后处理提取执行。这主要是给开源模型用的，它们没有原生Function Calling能力。好处是不用改模型架构，通过prompt加后处理就能实现。…

#百度#Agent#大模型工具调用

面试题·Agent· 高德

多 Agent 协作复杂度

匹配口述回答：这道题其实是在问一个很核心的工程问题：什么时候应该把一个系统拆成多个独立模块来协作，什么时候一个整体就够了。[[多智能体]]系统，说白了就是让多个大模型[[Agent]]各司其职，通过通信和协调来完成单一Agent搞不定的复杂任务。我先说优势。最直观的好处是专业分工。一个Agent搞定所有事，就像让一个全科医生做开颅手术，不是不行，但容易出错。多Agent可以把任务拆开，比如一个Agent专门做规划，一个做执行，一个做验证。每个Agent的prompt和工具可以高度定制，效…

#高德#Agent#多 Agent 协作复杂度

面试题·Agent· 阿里

Agent框架模块化与工具集成怎么比?

匹配口述回答：…t对话，天然就支持Agent之间聊天协作。具体说一下。LangChain最大的特点是它的LCEL，就是用管道符把组件串起来，比如prompt、llm、parser，你想怎么组合都行。而且它的工具生态特别丰富，上百个集成，你要调个API、查个数据库都很方便。但它的代价是版本迭代太快，API动不动就变，生产环境我踩过不少坑。 LlamaIndex呢，它把RAG链路优化到了极致。从数据摄取、索引构建到查询，它都有专门的抽象。比如你要做知识库问答，它内置了各种索引策略和检索器，开箱…

#阿里云#Agent#Agent 开发框架

面试题·Agent· 小红书

长历史行为怎么处理?

匹配口述回答：…，压缩但保留关键脉络。远期记忆，只把里程碑事件，比如用户明确说喜欢某个商品、或者做了购买决策，这些向量化入库。这样模型每次加载的 prompt 里，近期是完整对话，中期是几行摘要，远期是检索到的几条相关事件，长度可控，信息也不丢。这里有个落地风险得特别注意。检索增强的前提是用户行为里有可检索的关键事件，如果用户全是碎片化闲聊，没有明确的偏好或决策点，那向量化入库就是白费功夫，检索出来的也是噪音。常见失败场景就是，摘要模型质量不够，把关键信息漏了，或者检索召回率低，模型看不到…

#小红书#Agent#长历史行为处理

面试题·Agent· 百度

MCP vs Function Calling 怎么选?

匹配口述回答：…I 应用方可以解耦，Server 热更新，客户端不用重启。而 Function Calling 是把工具 schema 直接塞进 prompt，模型输出结构化调用指令，没有额外服务层，延迟更低，但工具定义跟模型推理是紧耦合的。你换个模型，schema 语法可能就变了，得重新适配。再来看功能特性。MCP 最大的优势是跨模型兼容，你实现一个 MCP Server，各个模型都能用，社区已经有很多现成的，比如 GitHub、Slack 的官方 MCP。而且支持运行时动态发现工具，增…

#百度#小鹏#美团

面试题·Agent· 百度

Agent 规划记忆工具分工

匹配口述回答：…Act执行每一步，这样既保证逻辑连贯，又允许动态调整。然后是记忆。记忆分两种：短期记忆就是当前对话的上下文，靠[[System Prompt]]和多轮历史维护；长期记忆是跨会话的知识积累，比如用户的历史偏好或者企业政策，我一般用[[Vector Database]]加[[RAG]]来存和检索。这里有个常见的坑：很多人以为长期记忆只存事实就好，但其实要区分知识类型。比如客服场景，退款规则是静态知识，适合向量检索；但用户的历史行为是动态的，更适合用结构化数据库。所以真正落地时，…

#百度#Agent#Agent 规划记忆工具分工

面试题·Agent· 百度

Agent 核心组件架构

匹配正文：…flection）、树状搜索（ToT） 2. 记忆系统（Memory）类型作用实现方式短期记忆当前对话上下文滑动窗口、Prompt内维护长期记忆跨会话知识积累向量数据库存储+检索增强工作记忆中间执行状态临时变量、执行轨迹 3. 工具调用（Tools）功能：扩展LLM能力边界（计算、搜索、API操作等）关键机制：Function Calling（模型输出结构化JSON）→ 外部执行 → 结果回传工具描述需清晰定义：功能说明、参数schema、返回值…

#百度#Agent 核心组件架构#Agent 系统架构怎么搭？规划、记忆、工具与行动

面试题·Agent· 淘天

LangChain vs AutoGPT vs BabyAGI 怎么选?

匹配口述回答：…看看 Agent 循环能不能跑通。AutoGPT 我会非常谨慎，它演示效果惊艳，但真要落地，你得自己改很多，加 [[System Prompt]] 约束、改工具接口、做状态持久化。我更愿意把它当成一个灵感来源，而不是直接拿来上线的框架。题目本质：框架选型看控制力与自主性的取舍边界划分：LangChain适合可控生产，AutoGPT/BabyAGI适合探索业务场景：客服退款流程中混用LangChain编排与AutoGPT探索落地风险：自主循环易失控，需预算和人工干预兜底…

#淘天#Agent#LangChain vs AutoGPT

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配口述回答：…务数据验证。如果只让我抓一个关键，那就是分块粒度决定了检索的上限，后面再优化也只是在补分块的坑。本质是平衡语义完整性与检索粒度的工程问题分块策略：固定切分 vs 语义切分，落地常混用嵌入选型：通用 vs 中文 vs 领域，维度与prompt优化索引：HNSW与IVF-PQ的取舍，动态更新与一致性检索：混合检索+重排两步走，风险与兜底约4分钟增量索引的实时性与一致性平衡：双缓冲+异步重建+回滚机制面试官可能会追问：双缓冲的具体实现、如何保证原子切换、回滚条件是什…

#字节#文档处理#向量检索

面试题·文档处理· 京东

Chunking 策略怎么平衡上下文与精度?

匹配口述回答：…的最大长度，比如text-embedding-ada-002是8191 tokens，同时留足LLM的上下文空间，chunk大小加prompt加输出，不能超过context window。如果不满足，上线后你会发现长文档检索结果质量波动很大，因为embedding被截断或LLM拿不到完整上下文。还有就是元数据增强。存储chunk的标题、章节、页码，配合[[Rerank]]或过滤，能大幅提升精准度。比如搜索“报销流程”，如果chunk带章节号，可以优先返回对应章节的块。最后…

#京东#RAG Chunking 策略#文本分块最佳实践

面试题·文档处理· 字节

医疗法律文档切块

匹配正文：…文件智能体切块（Agentic） LLM先读全文，按主题/事件主动划分最贴合人类理解、可提取跨段落关联成本高、延迟大、需设计prompt 超高价值文档、需要深度推理的场景医疗/法律领域的实践要点 1. 优先保结构法律：以"条款→款→项"为最小单元，而非固定长度医疗：以"主诉-现病史-检查-诊断"等病历章节为边界 2. 元数据增强 chunk = { "content": "...", "source": "民法典第X条第X款", "parent_section":…

#字节#医疗法律文档切块#医疗和法律文档怎么切块？结构、语义与引用边界

面试题·评估· 美团

RAG 工作原理与局限怎么分析?

匹配正文：…材料生成核心流程:文档解析 → 分块(Chunk)→ 向量化(Embedding)→ 入向量库;查询时检索 → 重排 → 拼入 prompt 生成优势:知识可实时更新、答案可溯源、幻觉显著降低、不需要重训模型局限:效果强依赖检索质量(切分不当/纯向量检索对 ID 类文本失效),链路长、延迟与成本上升与微调的边界:微调学「格式与风格」,RAG 注「事实与时效」,生产中常两者结合工作原理 RAG 的本质是把「模型参数里的知识」和「外部知识库」解耦。索引侧:把文档切成语义…

#美团#评估与监控#RAG 工作原理

面试题·评估· 百度

RAG 错误怎么定位到检索或生成?

匹配口述回答：…块的Top-K结果，喂给生成模型。替换后输出改善，提示原检索、排序、过滤或上下文组织可能存在问题；替换后仍错，还要先确认证据充分、prompt和格式正确，再查生成及证据使用，不能唯一归因。你可以这么理解，这就像排查一个流水线，把上游零件换成标准件，看下游还出不出问题。当然，这个实验有个前提，就是黄金文档要真的准，不然结论会误导。实际业务里，比如客服退款场景，用户问的是'为什么我退款被拒'，黄金文档就是对应退款政策的正确条款。如果替换后系统还是答非所问，那大概率是生成模型对政…

#百度#评估与监控#RAG 错误定位

面试题·评估· 美团

LLM 幻觉治理方法对比

匹配正文：…练截止后新知识问题局限：成本高，且模型仍可能"过度泛化" 2. RAG（检索增强生成）做法：外挂知识库，将检索到的相关文档拼入Prompt 效果：对事实性幻觉效果显著，可追溯来源关键：检索质量决定上限，需解决检索失败和内容冲突美团实践：结合实时业务数据（如商户信息）做领域RAG 3. 解码策略优化方法核心思想适用场景 Contrastive Decoding 对比大/小模型输出，惩罚低置信token 开放生成 CAD（Context-Aware Decoding…

#美团#幻觉治理#LLM 幻觉治理方法对比

面试题·评估· 京东

RAG 缓解哪类幻觉?

匹配口述回答：…噪声，反而会加剧幻觉。最后是生成可控性，模型得能忠实于检索到的内容，而不是过度依赖自己的参数知识去自由发挥。这跟[[System Prompt]]的设计、上下文窗口的利用、指令遵循能力都有关系。举个例子，客服退款政策。用户问“我买的东西降价了，能退差价吗”，如果模型没有检索到最新的退差价规则，它可能凭训练数据里的旧规则说“可以”，但实际公司政策已经改成“仅限未发货订单”。RAG的做法是把最新的政策文档[[切块]]存到[[向量库]]里，检索出相关条款，然后让模型基于条款生成答…

#京东#知识型幻觉#RAG 幻觉

面试题·评估· 淘天

偏好感知系统架构怎么选?

匹配口述回答：…简单稳定，但前提是偏好数据质量够高，如果数据噪声大，DPO容易过拟合。个性化扩展的话，可以把用户画像[[embedding]]拼到prompt里，或者用[[LoRA]]给不同用户群体维护独立的适配器，这样不用全量微调。评估体系分三个层面。先说偏好对齐度，最直接的指标是胜率，让GPT-4或人工盲评两个回答哪个更好。再看对话质量本身，比如流畅度、多样性，用perplexity和distinct-n来监控。还要看业务指标，电商场景就看转化率和满意度，这个得在线A/B测试。这里有个…

#淘天#偏好感知对话系统#对话系统训练数据