搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Embedding 优化」找到 339 条内容
按专题浏览 →匹配口述回答:…一个token的隐藏维计算均值和方差,先减均值,再除以标准差,最后乘可学习的gamma并加beta。RMSNorm不减均值,而是用向量均方根做缩放,再乘逐维gamma。最重要的边界是,RMSNorm没有把输入均值隐式变成零,它只是放弃了中心化这一步。 从不变性看,LayerNorm既能消除所有维度共同平移带来的影响,也能处理整体尺度变化;RMSNorm主要保留重新缩放不变性。这个取舍减少了统计量,但不能推导出输入必须近似零均值,也不能说RMSNorm天然更抗异常值。均方根同样…
匹配正文:…目里的技术决策和数字是抄不走的,那才是你的证据。 很多人把简历项目栏写成技能清单:"熟悉 RAG、Agent、Prompt 工程、向量数据库、LangChain"。这行字的问题不在于哪个词写错,而在于它没有任何一个可被追问的抓手——面试官无法从中判断你是搭过一个能跑的系统,还是看了两篇文章记住了这些词。真正立得住的写法,是把项目拆成下面三个维度,每一维都写到能被追着问下去的粒度。 三维项目表达法:每个项目从三个维度写透(本篇核心) 一个大模型项目要"立得住",工程、业务、结果…
匹配正文:…一层层追问。这是整份准备里投入产出比最高的地方,务必先补。 八股部分按岗位方向抽,不会全都问: RAG 方向:检索链路(切块策略、嵌入选型、混合检索、重排)、评估指标。 Agent 方向:工具调用与规划(Function Calling、ReAct、失败恢复、多步编排)。 微调方向:LoRA/QLoRA 原理、数据构造、灾难性遗忘。 推理方向:KV Cache、量化、批处理与吞吐优化。 这些在领域八股速通里按模块整理好了,题库入口在 /questions,每道题有书面答案和口…
学习内容与项目面试,在同一条路上。