页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「DeepSeek」找到 13 条内容
按专题浏览 →匹配标题与标签：…s GRPO 怎么选? 大模型对齐中目标函数与优势估计的差异对比 RLHF与对齐 PPO GRPO RLHF 策略优化 优势估计 DeepSeek-R1 2026真题 PPO vs GRPO RLHF 算法对比 大模型对齐训练 强化学习与RLHF 字节
匹配正文：… n_kv<n_h，MQA 令 n_kv=1。这里要明确“每 token”与“整段序列”，不能在同一列混用。 MLA 的核心机制 DeepSeek-V2 的 MLA 是训练时就写进模型结构的低秩联合压缩，不是推理后再压缩已有 KV： 从隐藏状态得到压缩 latent：c_t^KV=W^DKV h_t； 通过上投影恢复用于内容注意力的 k_t^C 与 v_t^C； RoPE 部分采用解耦 key k_t^R； 推理时每层、每 token 主要缓存 c_t^KV 和 k_t^R，…
匹配题目：给定一个性能有限的多模态模型和一个强大的纯文本大模型（如DeepSeek-R1），请设计一种高效、可扩展的协同推理框架，通过模型间分工与信息交互机制，提升多模态任务（如图文理解、视觉问答）的回答质量。需说明数据流、角色分配、错误控制及实际部署中的优化考虑。
学习内容与项目面试，在同一条路上。