页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「SFT」找到 133 条内容
按专题浏览 →匹配正文：…ation and Fine-Tuned Chat Models，2023：公开预训练模型与 Llama 2-Chat，详细讨论 SFT、reward model、rejection sampling 和 PPO 等后训练与安全评测。 The Llama 3 Herd of Models，2024：覆盖 Llama 3 的预训练、后训练、长上下文、多语言、代码、工具和安全。其后训练配方与 Llama 2 不应混写。 Mistral 7B，2023：公开 GQA 与 slidi…
匹配正文：…LLM 合成数据 快速扩展场景多样性 可能继承模型偏见，需过滤验证 实践策略：仿真生成大规模预训练数据 + 人工标注关键决策点做 SFT/RLHF，最后用在线 A/B 测试做分布外验证。 性能提升原理 并行化吞吐：多智能体同时处理子任务，突破单智能体串行瓶颈 专业化分工：每个智能体专注窄领域，降低单模型复杂度（类似 Mixture of Experts 的系统级实现） 信息增益：多视角观测融合减少不确定性，如骑手位置+商家出餐时间+路况的联合推断 容错冗余：单点故障不影响全局…
匹配正文：…长期用户留存而非即时奖励 4. 训练稳定性 问题：多轮场景下策略更新容易发散，或遗忘基础能力。 方案： KL散度约束：限制新策略与SFT模型的偏离程度 经验回放（Experience Replay）：混合历史优质对话与新样本 定期回滚机制：监控评测集指标，异常时回退到稳定checkpoint 5. 模拟到真实的差距（Sim-to-Real） 问题：仿真环境中训练的策略，面对真实用户的模糊意图、边界case表现差。 方案： 对抗式数据增强：在模拟中注入噪声、对抗样本 人在回路（…
学习内容与项目面试，在同一条路上。