匹配正文：…步数适中步骤过简失去引导作用，过繁增加噪声答案正确示例必须准确，错误示例会误导模型格式一致统一分隔符和书写风格，降低解析成本作用与边界有效场景：数学推理、符号逻辑、多步决策、代码调试等需要显式路径的任务局限性：简单任务可能增加token消耗而无收益事实性问答不需要CoT，直接回答更高效模型能力不足时（如小模型），CoT可能产生幻觉推理链在Agent中的应用：CoT是ReAct、Plan-and-Solve等Agent架构的基础组件，支撑任务分解与规划能…

#b站#Agent#Chain-of-Thought 提示

面试题·Prompt· 字节

Agent任务规划:分解与ReAct机制

匹配正文：…评测构造正常、缺参、超时、重复请求、冲突状态和越权样本，测任务成功率、规划合法率、工具参数合法率、重复副作用、人工接管率、延迟和成本。

← 上一页第 20 / 30 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#字节

#Agent

#Agent 任务规划

面试题·Prompt· 字节

AI Agent 核心特点与局限

匹配正文：…式（ReAct/CoT/Plan-and-Execute）优势：任务分解、工具扩展、持续学习局限性：幻觉累积、长程规划稳定性、成本与延迟落地场景举例（自动化运维、智能客服、代码助手） Agent的核心特点 Agent = LLM + 环境交互能力，区别于纯生成模型的关键：闭环反馈机制四大核心组件感知：接收环境状态（API返回、用户输入、工具输出）规划：任务分解、策略选择（CoT/ReAct/Tree of Thoughts）行动：工具调用、代码执行、外部API交…

#字节#评估与监控#Agent

面试题·Prompt

封闭标签分类如何约束解码?

匹配正文：答案要点明确四种方法的核心机制差异能对比准确性、延迟、成本、可控性四个维度理解工业落地的关键权衡（如API可用性 vs 自研成本）提及失败回退策略和边界情况处理四种方法对比方法核心机制适用场景主要局限直接提示在prompt中列出类别，让模型直接选择类别少、简单场景格式不稳定，可能输出不在列表中思维链 (CoT) 先让模型推理分析，再给出结论需要可解释性的复杂分类延迟高、成本高，小模型效果差 Logit Bias 对指定token ID加减偏置 …

#Logit Bias#约束解码#封闭集合标签分类

面试题·Prompt· 字节

Prompt 工程方法怎么选?

匹配正文：…ystem Message限定角色，复杂任务拆分子步骤 Self-Consistency：多路径采样投票，提升答案稳定性特点：零成本、即时生效，但依赖人工经验，迁移性差二、自动化优化策略方法类型核心机制代表工作 Prompt Tuning 连续优化冻结模型，仅训练可学习的软提示嵌入（Soft Prompt） Lester et al., 2021 Prefix Tuning 连续优化在KV层添加可训练前缀，比Prompt Tuning更深层 Li & Lian…

#字节#Prompt Engineering 方法#Prompt Tuning vs AutoPrompt

面试题·Prompt· 字节

判别式转生成式模板怎么选?

匹配正文：…的思想三种主流转化方法对比方法核心形式优势局限前缀引导 [CLS]文本[SEP]标签改为生成：标签改动最小，迁移成本低；保留原始数据分布未充分利用模型指令遵循能力，上限有限自然语言指令请判断以下文本的情感：{文本}→{标签} 符合预训练分布，泛化性强；支持多任务统一指令设计依赖经验，短指令可能歧义思维链(CoT) 分析：... 因此答案：{标签} 显式推理过程，可解释性强；复杂任务准确率提升显著推理成本高；简单任务可能"过度思考"引入错误实际应…

#字节#生成式建模#判别式转生成式

面试题·Prompt· 阿里

Prompt 性能上限评估指标

匹配正文：答案要点定量指标：准确率、F1、BLEU/ROUGE、任务完成率、延迟与成本定性指标：人工评估、Bad Case分析、边界测试稳定性指标：多次采样一致性、对抗样本鲁棒性收敛判断：连续多轮优化增益<5%或出现指标震荡工程实践：A/B测试、影子流量、分层实验核心判断逻辑 Prompt优化存在边际递减效应，当连续多轮迭代带来的增益<5%或出现指标震荡（调优后反而下降），可认为接近当前上限。定量指标维度具体指标判断标准任务性能准确率、F1、EM、任务完成率对…

#阿里#Prompt工程#评估与监控

面试题·Prompt· 百度

Prompt 优化策略有哪些?

匹配正文：…率提升到另一个准确率。选择原则先使用最简单、可维护的方案；只有基线不能满足需求时才增加示例、推理步骤或多次采样。多次采样会增加成本，且多数一致不等于事实正确。

#百度#Prompt工程#Prompt 优化

面试题·Prompt· 百度

Agent 性能优化：架构与推理陷阱

匹配正文：…推理层面：CoT/ReAct优化、推理预算分配、自适应深度工具层面：工具选择策略、并行调用、结果缓存与容错系统层面：延迟优化、成本控制和可观测性架构设计优化模块化与分层架构将Agent拆分为规划层、执行层、记忆层、工具层，降低耦合采用多Agent协作：主Agent负责任务分解，子Agent并行执行子任务，通过消息总线通信记忆机制设计短期记忆：对话上下文窗口管理，关键信息提取长期记忆：向量数据库存储历史经验，支持RAG式检索工作记忆：当前任务相关的临时状态维…

#百度#Agent#Agent 性能优化

面试题·RAG· 蚂蚁

增量式向量索引怎么更新?

匹配正文：…写入主数据存储，并用 WAL 或消息队列传递变更。消费端按文档版本和事件 ID 做幂等处理，把新向量写入 Delta 索引。插入成本、锁模型和可见延迟以具体引擎实现为准。查询同时搜索稳定的 Base 索引和 Delta 索引，合并候选、按文档版本去重，再执行过滤和排序。 2. 修改与删除若引擎原生支持可验证的 upsert 或 delete，可以直接使用并持续监控召回变化。若物理删除会影响图连通性或实现不支持安全更新，则把修改表示为旧版本失效加新版本写入，把删除记录到…

#蚂蚁#增量式向量索引#向量索引更新

面试题·RAG· 百度

对话模型准确性怎么提?

匹配正文：…Dense）+ 关键词匹配（Sparse）混合，召回率与精确率平衡实时索引更新机制，解决知识时效性问题关键权衡：架构与训练改动成本较高，也需要持续评估；RAG 与 Agent 更易按模块迭代，但检索、工具调用和多轮生成会增加延迟。应固定任务、评测集和预算，再比较事实正确率、引用支持率、延迟与成本。延伸阅读 DPO 原论文 DeepSeekMath：GRPO 的 critic 与奖励定义 Self-RAG 原论文

#百度#对话模型准确性#模型架构优化

面试题·RAG· 淘天

RAG vs 传统检索生成怎么选?

匹配正文：…到"查阅" RAG的核心范式跃迁在于知识存储位置的转移：传统LLM：知识固化于参数（parametric memory）→ 更新成本极高（全量SFT/RLHF） RAG范式：知识外置为非参数化存储（non-parametric memory）→ 实时更新、无限扩展这对淘天等电商场景尤为关键：千万级SKU信息、分钟级价格变动、个性化用户画像，靠参数记忆不可行，RAG实现了"模型能力稳定 + 知识动态鲜活"的工程平衡。学习建议建议先掌握传统检索与生成的分离流程，再学习RA…

#淘天#RAG信息融合#RAG与传统检索生成对比

面试题·RAG· 字节

高风险垂直领域 RAG 如何设计？

匹配正文：…人员复核，系统保留修改原因。领域微调或 Self-RAG 不是必选项。只有在冻结数据和基线下证明净增益，并通过隐私、许可、偏差、成本与回滚检查后才采用。 5. 安全、审计与异常服务端执行身份认证和最小权限；记录查询、资料版本、候选、最终上下文、输出、复核人与动作，但日志字段最小化并限制访问。防护还包括提示注入、恶意文档、数据外传、模型/索引版本混用、过期资料、冲突来源和不可用时降级。系统不得直接执行处方、诊断、提交法律文件或改变当事人权益，除非特定产品已完成相应授权、验…

#RAG#高风险应用#医疗

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配正文：…幻觉参数化记忆，容易"编造" 检索提供事实依据，可溯源知识时效性训练后无法更新知识库动态更新，无需重训模型领域适配微调成本高零样本接入私有知识关键优化点检索质量：Embedding模型微调、混合检索（向量+关键词）、重排序（Rerank）上下文组织：片段截断策略、多轮检索、检索结果去重融合生成控制：提示词约束模型严格基于检索内容回答，拒绝无关Query 与微调对比 RAG优势在于知识可解释、更新即时、成本可控；适合知识频繁变更、需溯源的场景。微调更适合改…

#字节#外部知识检索#RAG 原理

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：… 为什么能提升质量？事实准确性：知识库可维护、可溯源，直接引用原文降低幻觉知识时效性：不用重新训练，更新文档即可领域适配：低成本接入私有知识，比微调便宜10-100倍可解释性：答案从哪来一目了然关键优化点（加分项）检索侧：Query改写、多轮检索、重排序（Cross-Encoder精排）生成侧：上下文窗口压缩、让模型先判断"是否足够回答" 工程侧：缓存热点Query、检索失败兜底策略一句话总结 RAG = 给LLM配个"外挂硬盘"，需要时查资料，不用死记硬背，…

#字节#大模型幻觉#RAG 原理

面试题·RAG· 字节

RAG 检索模块怎么提升相关性?

匹配正文：…、生成伪答案、或HyDE（假设文档嵌入）——让模型先写理想答案，再用答案向量去检索典型场景：用户问"怎么省钱" → 改写为"降低成本的策略/方法/技巧" 其他补充手段上下文压缩：检索长文档后，用LLM提取与查询相关的片段，减少噪声元数据过滤：先按时间、类别等标签粗筛，缩小向量搜索空间实际落地需权衡：重排序和查询改写增加延迟，建议根据场景选择组合策略。学习建议建议系统学习该知识点

#字节#Query Rewriting#RAG 检索模块

面试题·RAG· vivo

地图避障方法有哪些局限?

匹配正文：…）需50Hz以上，CPU负载高权衡：降低规划频率导致碰撞风险，提高频率则延迟累积 4. 计算与存储开销地图类型内存占用更新成本稠密栅格(0.05m) ~MB级/100㎡全量更新点云地图 GB级增量困难拓扑地图 KB级抽象损失细节工程实践中的应对思路分层架构：全局拓扑+局部栅格，平衡精度与效率动态物体过滤：Ray-casting一致性检测，避免地图污染边缘轻量化：NanoMap、Ego-centric局部地图替代全局维护端到端融合：传统方法提供安全…

#vivo#机器人导航避障#地图避障局限

面试题·RAG· 字节

RAG 查不到文档怎么降级?

匹配正文：…点大模型直接回答通用知识类问题用户体验连贯幻觉风险，需明确告知用户缩小范围追问问题过于宽泛引导用户明确需求增加交互成本转人工/工单专业/敏感场景兜底可靠人力成本高，时效差推荐热门/相关文档有相似主题内容保持RAG链路可能偏离用户意图网络搜索补充时效性要求高扩展知识边界结果不可控，延迟增加决策逻辑设计相关性分数 > 阈值 → 正常RAG回答阈值1 < 分数 < 阈值 → 低置信度警告 + 大模型补充回答分数 < 阈值1 → 触发追…

#抖音#RAG降级策略#RAG fallback

面试题·RAG· 字节

RAG 怎么提升事实准确性?

匹配正文：…实性错误（如"2024年美国总统是谁"） 2. 知识覆盖动态接入私有/实时数据（企业文档、最新新闻）无需重新训练即可更新知识，成本远低于微调一句话总结 RAG = 搜索引擎 + 大模型，让AI从"闭卷背诵"变成"开卷作答"。学习建议建议系统学习该知识点

#字节#RAG工作原理#RAG 工作原理

面试题·RAG· 快手

LLM怎么融入推荐系统？意图理解与生成

匹配正文：…荐不存在item）约束解码+检索增强（RAG），先召回候选集再重排实时性 LLM只做离线特征或粗排，精排保持轻量；或投机解码成本大小模型级联，简单请求走小模型，复杂请求触发LLM 评估困难离线用A/B test，在线关注用户停留时长等长期指标五、快手场景的特殊考量短视频推荐的核心是实时性+多样性： LLM适合做session级别的兴趣总结（如识别用户从"搞笑"转向"知识"）不适合逐帧实时推理，可采用小时级更新用户画像向量的折中方案学习建议建议系统学习该知识…

#快手#LLM推荐系统#LLM 推荐系统

面试题·RAG· 美团

外挂数据库怎么提升大模型准确性?

匹配正文：…型/静态RAG的优势时效性：分钟级数据可见，解决大模型知识截止问题准确性：数据分布漂移时，检索结果自动跟随变化，无需重训模型成本可控：避免频繁SFT，用检索成本替换训练成本美团场景的特殊考量外卖/配送业务中，商户状态、运力、价格实时变化：索引需支持高并发写入（高峰订单量）检索需考虑地理位置作为硬过滤条件冷启动问题：新商户用结构化字段兜底，逐步积累向量学习建议掌握RAG基本架构，理解动态数据与模型结合的挑战，学习外挂数据库的检索与更新机制。

#美团#外挂数据库增强#外挂数据库

面试题·RAG· OPPO

多信号评分函数原理与陷阱

匹配正文：…上用受控实验观察业务指标、长尾和护栏。评分函数要支持版本化、特征监控和回滚。最有效的函数不是最复杂的，而是在目标、偏差、约束和服务成本之间可验证地取得更好结果。图解多信号评分函数原理与陷阱图解

#OPPO#多信号排序#评分函数设计

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：…ve Advanced Modular 延迟低中高准确性依赖索引质量显著提升最高灵活性无有限高度可编排运维成本低中高选型建议：从Naive快速验证→Advanced优化体验→Modular解决复杂任务，避免过度设计。学习建议建议先掌握向量运算和概率基础，再结合Transformer论文理解Attention的计算流程与意义。

#淘天#RAG架构分类#RAG 分类

ReAct 框架怎么实现推理+行动?

CoT 提示怎么写?

Agent任务规划:分解与ReAct机制

AI Agent 核心特点与局限

封闭标签分类如何约束解码?

Prompt 工程方法怎么选?

判别式转生成式模板怎么选?

Prompt 性能上限评估指标

Prompt 优化策略有哪些?

Agent 性能优化：架构与推理陷阱

增量式向量索引怎么更新?

对话模型准确性怎么提?

RAG vs 传统检索生成怎么选?

高风险垂直领域 RAG 如何设计？

RAG 怎么提升生成准确性?

RAG 怎么提升生成质量?

RAG 检索模块怎么提升相关性?

地图避障方法有哪些局限?

RAG 查不到文档怎么降级?

RAG 怎么提升事实准确性?

LLM怎么融入推荐系统？意图理解与生成

外挂数据库怎么提升大模型准确性?

多信号评分函数原理与陷阱

RAG 模型分类有哪些?