匹配正文：…量模型打分，考虑：是否包含用户明确确认的信息（"对的""没错"）是否涉及后续对话引用是否跨会话被重复提及（长期偏好）重排序技巧：用对话历史做Cross-Encoder精排，或训练小型BERT做记忆相关性二分类。落地检查点记忆是否"可用"：检索结果在Prompt中能否真正帮助生成是否"可控"：支持显式删除/修改某条记忆（GDPR合规）是否"可解释"：检索时返回记忆来源时间，便于Debug 学习建议建议系统学习该知识点

#高德#Agent#向量检索

面试题·模型微调· 小红书

意图识别结构化输出失败如何修复

匹配口述回答：…ling提取槽位？这个取舍我还没完全想清楚，但感觉是个值得深挖的方向。总的来说，我更倾向把格式优化看成一套组合拳，而不是依赖单一技巧。先分层防御，再根据业务场景调优，最后用后校验兜底。一句话定位：意图识别格式问题本质是输出空间控制提示工程兜底：给模板和思考空间解码控制：降低随机性、用Function Calling或JSON Mode 微调提升上限：LoRA加正负样本分层防御与风险判断约4分钟当意图类别超过50个时，Function Calling的schema…

#小红书#意图识别格式优化#结构化输出

面试题·模型微调· 百度

大模型知识库怎么构建?

匹配正文：…模型通用中文 BGE-M3、GTE、ERNIE 垂直领域领域数据微调后的模型多语言 E5-mistral、BGE-M3 优化技巧对Query和Document分别设计Prompt前缀（如"为这个句子生成表示："）领域微调：用对比学习（In-batch Negatives+Hard Negatives）提升相关性四、索引构建向量索引 HNSW：高召回、内存占用大，适合百万级 IVF-PQ：磁盘友好，适合亿级规模 Milvus/Pinecone：托管方案，自动分片 …

← 上一页第 2 / 2 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#百度#大模型知识库构建#知识库向量化

面试题·评估

检索准但生成差，怎么调优？

匹配口述回答：…三个方向优化。先看上下文利用。比如用 [[Rerank]] 或者上下文压缩，去掉冗余信息，把最相关的文档排前面。再一个，设计结构化Prompt，明确标注文档来源，比如'文档1说…文档2说…'，让模型清楚知道每段信息的出处。还有个技巧是动态上下文窗口，根据问题复杂度调整送进模型的文档数量，避免信息过载。再看生成模型和推理优化。如果模型本身指令遵循能力弱，可以用领域数据做 [[SFT]]，强化'基于给定上下文回答'的能力。Prompt工程也很重要，比如加一句'如果上下文无法回答…

#上下文压缩#生成调优#RAG 效果诊断

面试题·模型微调

LLM 标签约束解码

匹配口述回答：…，分步解码，先预测大类，再细化到具体标签，这样既能保证精度，又控制计算开销。所以总体来看，我会把这个问题看成系统工程，不是靠一个技巧解决，而是分层防御、各司其职。本质是可控生成问题，分层防御思路提示工程做软约束，场景与局限解码约束做硬约束，实现与工程细节后处理兜底，微调强化基础组合策略与风险意识约4分钟大标签集合下，约束解码效率下降，可以用分步解码或分层分类来优化。面试官可能会追问分步解码的具体实现，比如如何保证中间结果不丢失信息，或者聚类标签的粒度怎么定。

#约束解码#标签集合#LLM 标签约束解码

面试题·RAG· 字节

上下文错误时怎么保证输出准确?

匹配口述回答：…个很实用的做法是引用锚定，强制模型在生成时标注信息来源，比如“根据[文档A]……”，这样方便追溯。另外我还会在 [[System Prompt]] 里显式要求模型识别上下文中的冲突信息并报告，这叫矛盾检测提示。再配合置信度阈值，如果模型对输出不确定，就让它说“我不知道”或者请求人工确认。这里有个坑：如果阈值设得太高，很多正确回答也被过滤了，所以得根据业务容忍度调。输出层做后验校验也很关键。比如对生成内容里的数字、日期、人名，用独立模型或规则库做事实性验证。还有一个技巧是一致…

#字节#错误上下文处理#RAG 上下文错误

面试题·检索· 小红书

RAG检索不准的失败场景与优化

匹配口述回答：…。查询侧优化也很关键。用户问题往往短、模糊，我会用LLM做查询改写，比如把‘退款多久’扩展成‘退款处理时效是几个工作日’。还有个技巧叫HyDE，先生成一个假设文档再检索，能拉近查询和文档的语义距离。但这里有个风险：如果LLM改写错了，比如把‘苹果’错误扩展成‘水果’，反而会引入噪音。所以我会加置信度过滤，改写后和原查询做相似度对比，分太低就弃用。另外多说一句，检索正确但生成错的情况也很常见，这其实涉及[[Faithfulness]]问题，比如生成了文档里没有的细节。这时候…

#小红书#美团#重排与优化

面试题·检索· 快手

LLM怎么融入推荐系统？序列建模与排序

匹配口述回答：…向我最近比较关注，就是怎么让LLM直接做序列推荐，而不是只当特征提取器。比如用LLM生成下一个物品的ID，但ID空间太大，需要一些技巧来约束输出，这块我觉得挺有意思的。所以整体上，我更愿意把LLM看成推荐系统的“语义增强器”，而不是替代现有模型。先把离线特征做好，在线模型保持轻量，这样风险可控。本质问LLM在推荐里怎么落地，不是炫技先说特征层：文本语义增强，但ID信息会丢再说序列建模：长行为序列，直接拼prompt不行，得压缩或分层最后召回排序：生成式适合冷启动，判…

#快手#LLM推荐架构#LLM 推荐系统

面试题·评估· 字节

LLM 幻觉与安全风险怎么缓解?

匹配口述回答：…别，避免把错误或有害模式直接放大。SFT 可以教模型遵循格式、引用证据和拒答边界；偏好数据可比较帮助性与安全性。DPO 使用同一 prompt 下的 chosen 与 rejected，并依赖冻结 reference policy 的对数概率比直接更新 policy，不需要先训练一个显式 reward model。若偏好标签偏差、覆盖不足或把过度拒答标成更安全，模型仍会学错，因此需要分层数据和独立安全回归。知识密集任务要把答案连接到证据。检索可返回最新文档，计算器、代码执行…

#幻觉检测#内容安全#RLHF