页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「模型压缩」找到 5 条内容
按专题浏览 →匹配标题与标签：模型优化方法有哪些？ 从训练、推理到部署，系统性提升大模型性能 推理优化 模型量化 KV Cache优化 分布式训练 推理引擎 模型压缩 2026真题 大模型优化方法 模型训练优化 推理加速 部署优化 系统优化与推理加速 百度
匹配正文：…果 解决长序列的信用分配问题 2. 状态空间处理 多轮状态 = 历史对话摘要 + 当前工具返回 + 任务进度标记 用滑动窗口或摘要模型压缩历史，避免上下文爆炸 显式维护已完成/待完成/失败的任务状态 3. 训练策略选择 方法 适用场景 关键点 DPO 偏好数据充足、快速迭代 直接用偏好对，无需显式RM PPO 需要精细控制、复杂奖励 注意KL散度约束，防止模式崩溃 Online DPO/RLAIF 真实用户反馈 建立实时反馈收集管道 4. Agent专项技巧 工具调用验证：将…
匹配正文：…态显式建模，无法保证承诺、约束的跨轮一致性 架构改进方案 方案 核心思想 实现要点 显式记忆模块 分离短期上下文与长期记忆 用摘要模型压缩历史为记忆向量，每轮显式查询；或引入外部记忆网络（如Memory Transformer） 对话状态编码 显式追踪对话状态 类似DST（Dialogue State Tracking），用结构化槽位存储实体、意图、约束条件，作为附加输入 分层注意力 区分话语级与token级 先对话语做粗粒度交互，再token细粒度计算，降低长序列复杂度 检…
学习内容与项目面试，在同一条路上。