页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「长上下文」找到 101 条内容
按专题浏览 →匹配口述回答：…ToT、ReAct 的边界，实际是混合使用 目标设定与执行监控：层次化拆解加观察-思考-行动-验证闭环 落地风险：工具失败、幻觉、长上下文，以及我的取舍 约4分钟 工具调用失败或超时时的重试与回退策略，以及如何用 Self-RAG 防止 LLM 编造工具返回结果 面试官可能会追问：Self-RAG 具体怎么实现？重试次数和回退策略怎么设计？长上下文下怎么保持状态一致性？
匹配口述回答：… Prompt 还需要像代码一样治理。版本记录系统指令、用户模板、示例、上下文组装、模型和解码参数，回归集覆盖正常、边界、无答案、长上下文、格式和对抗样本。线上日志带 Prompt 哈希，灰度同时观察质量、尾延迟、token、拒答和危险动作；模型升级时回归新旧 Prompt 组合，避免把模型变化误判成提示收益。某次改动如果没有稳定改善目标切片，或者收益抵不过维护和延迟成本，就应该撤掉。优化的终点是最简单、可测、可回滚的组合，不是把所有流行技巧都塞进一个模板。 Prompt优化…
匹配口述回答：…：重排不是越多越好，要根据 query 难度动态截断。简单 query 给 3 个文档就够了，复杂 query 给 10 个，否则长上下文反而稀释注意力。 生成层我重点做两件事：上下文压缩和引用生成。上下文压缩就是去重、摘要，避免把一堆重复或无关信息塞进 LLM，导致 [[Hallucination]]。引用生成是强制模型输出时带上文档编号，这样用户能看到来源，也方便后续做事实校验。如果业务场景对格式和领域知识要求高，我还会做领域 [[SFT]]，用高质量的 RAG 数据微调…
学习内容与项目面试，在同一条路上。