搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「上下文窗口」找到 113 条内容
按专题浏览 →匹配正文:答案要点 上下文窗口是模型一次推理能「看到」的最大 token 数,输入和输出共享这个额度 限制的本质:注意力计算量随长度平方增长 + 位置编码只在训练长度内可靠 + KV 缓存显存随长度线性增长 超窗后模型不会报错,而是最早的内容被截断,表现为「忘了前面说过的话」 三种经典应对:截断(简单粗暴)、摘要压缩(有损保留主干)、RAG(外挂检索,按需取用) 实际系统常三者组合:近期对话留原文、久远对话滚动摘要、知识库走 RAG 核心概念 上下文窗口(Context Window)…
匹配正文:…应进入候选资格判断,缓存也要按租户或可见范围隔离。回答时要覆盖数据访问、候选被无权内容占位、权限变更后的失效与审计记录。 面试官:上下文窗口越来越长,RAG 还有必要吗? 不要先站队。比较资料规模、更新频率、查询量、引用要求、延迟与成本。小而稳定的资料可能适合长上下文,大规模且持续更新的知识库通常仍需要检索。选型结论应来自约束,而不是来自技术偏好。 第三部分 · 用自己的事实完成复盘 练完技术追问后,再做一次真实性检查。 把项目描述中的每个动词标出来:设计、实现、优化、上线分…
匹配正文:…ansformer 公式,也不需要把所有论文看一遍。应用岗面试更关心这些问题: 为什么通用大模型会编答案,RAG 怎么降低幻觉? 上下文窗口装不下时,切块、摘要、检索、记忆各自解决什么? Prompt、Function Calling、Agent、MCP 分别在哪一层? RAG 和微调怎么选,什么时候组合使用? 检索召回率、重排、引用溯源、离线评估为什么决定上线质量? 学习方式建议很朴素:每个概念先写一句人话定义,再写一个工程场景,最后找 2-3 道真题练口述。比如 RAG …
学习内容与项目面试,在同一条路上。