页面加载中…
搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「训练策略优化」找到 2 条内容
按专题浏览 →匹配正文:…用轻量encoder提取关键信息,更新至FAISS/HNSW索引 记忆读取:当前query检索Top-N相关记忆,拼接至输入 二、训练策略优化 多阶段训练 阶段 目标 数据特点 预训练 长文档建模 书籍、长文章,4K→32K→128K渐进扩展 SFT 对话能力 高质量多轮数据,平均10-20轮,含角色一致性标注 RLHF 连贯性与有用性 多轮偏好对,同一问题不同轮次的回答对比 一致性约束损失 轮间一致性:相邻轮次回答的embedding余弦相似度约束 角色一致性:系统prom…
匹配正文:…:PinSage/GraphSAGE引入高阶连接关系,挖掘协同信号 对比学习:引入InfoNCE损失,增强用户-物品表示对齐 四、训练策略优化 负样本采样:从"全局随机"改为"Hard Negative"(曝光未点击、相似物品),提升区分度 损失函数:BPR → Softmax → 引入Focal Loss解决类别不平衡 课程学习:训练初期用简单样本,逐步增加难度 蒸馏机制:用大精排模型指导小模型,兼顾效果与性能 五、关键落地经验 推荐系统优化是"特征 > 模型 > 训练"的…
学习内容与项目面试,在同一条路上。