搜索大模型内容

后端工程师转大模型应用开发:已有经验怎么迁移

匹配正文：…步处理请求推理服务吞吐设计、请求批处理(batching)、协程与队列文档解析与数据管道 ETL、消息队列、批处理、增量更新向量数据库选型与调优存储选型、索引优化(HNSW/IVF 换个名字的 B+ 树直觉) 缓存设计向量检索结果缓存、语义缓存、Prompt 命中复用推理延迟与成本优化性能调优、连接池、批量化、异步降级可观测性 / 线上质量监控评估指标埋点、离线评测集、线上 badcase 采样与回归 Agent 工作流编排状态机、任务调度、重试与幂等、D…

Agent 有几十上百个工具时怎么选？大工具集路由怎样设计和验收

匹配正文：…可能会问：“Agent 只有三四个工具时可以把 Schema 全塞给模型，工具扩展到几十上百个以后怎么办？” 这道题不能只回答“用向量检索找 Top K”。工具一多，问题不仅是上下文变长，还包括名称和描述越来越相似、敏感能力不该暴露、工具版本与健康状态不断变化，以及候选召回错误会让后面的模型根本没有机会选对。大工具集路由更像一个分层检索与授权系统：先根据用户、租户和任务过滤绝对不能使用的能力，再从剩余工具中召回小候选集，结合描述、参数和上下文重排，最后才让模型选择或请求澄清…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#Agent#工具调用与安全#Agent 大工具集路由

大模型技术栈全景:RAG / Agent / 微调 / 推理 / 评估各是什么、面试考多少、怎么学

匹配正文：…G 基础题库 RAG 智能问答系统教程重排与检索优化 RAG 里"召回准不准"的关键环节,效果好坏经常卡在这重排与优化 70、向量检索 49 重排与优化题库重排章 Agent 智能体让模型能规划、调工具、多步完成任务,当前最热且和 RAG 衔接 Agent 154 Agent 题库 Deep Research Agent 教程 Prompt 与上下文怎么把任务、约束、上下文喂给模型,应用开发的高频入口 Prompt工程 77 Prompt 工程题库 AI 编程实操 …

Rerank 为什么更准，却不能对整个知识库运行？

匹配正文：… 这时适合处理问题的是 Rerank，也就是重排。可另一个问题马上来了：既然 Rerank 能更细地比较问题与候选，为什么不跳过向量检索，直接让它给整个知识库打分？ Bi-Encoder 和 Cross-Encoder 差在哪里？ Embedding 模型通常采用双塔，也叫 Bi-Encoder。 Query 进入一侧编码器，文档进入另一侧编码器，最后比较两个向量的距离。文档向量可以在离线阶段提前算好，用户提问时只需要计算 Query 向量，再到索引中寻找近邻。这种方式适…

#RAG#检索与重排#RAG Rerank

大模型简历怎么写:项目怎么描述、怎么量化、怎么防追问

匹配正文：…示例 Deep Research Agent 示例工程维度架构/状态/工具/权限/监控/成本文档解析 → 分块 → bge 向量检索 + 重排两路召回,加检索失败兜底与查询改写,接入调用日志监控单次成本 ReAct 迭代循环 + 工具注册(搜索/抓取/计算),长程记忆做上下文压缩,关键工具调用加权限确认与 trace 回放业务维度场景/用户/数据源/约束/边界面向某垂直领域内部文档问答,数据源是几百篇 PDF/网页,约束是必须给引用出处、不许编造面向研究简报生成…

#Agent#记忆与存储#Agent 长期记忆设计

Agent 短任务和长任务怎么记？工作记忆、长期记忆与任务状态怎样分层

匹配正文：…具调用和审计适合关系型存储，支持版本、条件更新和精确查询。长文档与大工件放对象存储，State 只保存引用。长期语义记忆可以使用向量检索，但通常需要关系型元数据过滤；实体关系复杂时才考虑图结构。不要根据技术名词反推需求。向量库适合模糊相似检索，不适合单独承担权限、事务、唯一约束和精确执行状态。关系库也不是所有文本都塞一张表，工件、索引和审计可以各自分层。记忆检索怎样避免污染当前决策先用用户、租户、类型、时间和有效状态过滤，再计算相关性。召回条目带来源、时间与置信状态进…

#Agent#记忆与存储#Agent 记忆写入机制

Agent 长期记忆什么时候写入？从候选提取到更新、冲突和遗忘的完整生命周期

匹配正文：…息，也应与可注入模型的长期记忆隔离，不能借审计名义继续用于个性化。追问六：怎样证明遗忘真的生效不仅看管理页消失，还要从主记录、向量检索、缓存、摘要和备份恢复路径验证不可再召回，并保存各副本清理状态。从候选到遗忘：一段完整回答我会把长期记忆写入设计成一条有拒绝出口的生命周期。模型先从对话或最终任务结果提取候选，并标明主体、类型、来源和用途；系统再做敏感信息、授权、权限、稳定性、去重与冲突检查。通过后才写正式记录，记录包含稳定 ID、来源、时间、版本、有效期、可见范围和替…

RAG 检索效果差怎么排查？从 Query 到 Rerank 逐层定位

匹配正文：…只用于定位，最终修复要保证安全边界不被破坏。第四层，两路召回分别找到了什么？不要一上来只看融合后的 Top-K。 BM25 与向量检索解决的失败类型不同。把两路混在一起，会看不出正确证据原本由哪一路找到，又在哪一步被压下去。 BM25 更依赖原词、编号和专业术语。用户换了说法时，它可能漏掉正确文档。向量检索擅长语义改写，但短 Query、领域术语和否定表达可能出现偏移。调试时应分别保存两路候选、原始分数、排名和 Chunk 来源。同义词问题先看向量路线是否补回了正式…

#RAG#生成与对话#RAG 检索优化

#Agent#记忆与存储#Agent 记忆检索排序

Agent 从海量记忆里怎么找对内容？相关性、时间性和重要性怎样组合

匹配正文：面试官可能会问：“长期记忆已经存了很多条，为什么不能直接向量检索 TopK？” 因为“语义相似”只回答文本像不像，不回答这条记忆属于谁、当前 Agent 有没有权限、信息是否还有效、来源是否可信、是不是被新版本替代，以及它对当前任务到底有多重要。用户今天问“帮我继续上次的 RAG 评测”，向量库可能召回一个月前的项目目标，也可能召回另一个项目里措辞相似的评测记录。旧目标语义很像，但当前阶段已经变化；另一个项目更像，却属于错误作用域。若系统只取相似度最高的几条，记忆越多，污染…

资料里没有答案时，RAG 怎么避免强行生成？

匹配正文：…不够，并避免强行生成？很多人的第一反应是：“设置一个相似度阈值，低于阈值就拒答。” 这句话只答到了最外层。面试官很快会继续问：向量库几乎总能返回结果，相关和足够怎样区分？阈值应该怎么定，换模型后还能不能继续用？有答案却被拒绝，和没答案却强答，哪个更严重？检索分数过关后，生成阶段为什么仍可能编造？为什么“搜到了”仍然可能没有答案？向量检索做的是相对排序。给它一个问题，它会在当前索引里找出语义上最接近的若干片段。即使整座知识库都没有正确答案，仍然可以排出第一名、第…

#RAG#生成与对话#RAG 无答案检测

大模型系统设计和编码环节怎么准备

匹配正文：…就动手,默认一个自己想当然的规模数据与索引文档怎么解析、按什么粒度切块、元数据怎么带、索引多久重建、增量更新怎么做只说"存进向量库",说不清切块策略和更新机制检索/召回方案向量检索 + 关键词(BM25)混合、召回多少、要不要重排、多路召回怎么融合只上单路向量检索,答不上召回不全怎么办模型与 Prompt 选什么模型、上下文怎么拼、引用怎么带、幻觉怎么约束、要不要 function calling 把 Prompt 当细节略过,不提引用和防幻觉评估怎么做检索…

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配正文：…作用域过滤当前请求到来时，系统先确定用户、组织、会话和任务作用域，再读取短期窗口和长期候选。对于持久数据库，可以按字段过滤；对于向量检索，也要限制在允许访问的分区或候选集合内。关键原则是：先确定“哪些记忆有资格被看见”，再在其中判断“哪些语义相关”。如果先从全体用户记忆做向量近邻，再在结果末端补权限过滤，不仅可能浪费候选名额，也会增加数据越界风险。第五步：融合时处理冲突检索到记忆后不能直接全部拼入 Prompt。系统需要检查时间、状态、主题和来源。当前用户明确修改了偏…

#RAG#生成与对话#RAG 记忆模块