搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Self-Instruct」找到 3 条内容
按专题浏览 →匹配正文:…达扩展;LLM可以生成开放指令、对话和解释;模拟器适合能执行验证的代码、数学或工具任务。不同方法产生的偏差不同,不能只追求数量。 Self-Instruct不是把种子指令做相似改写。它用一小组人工任务引导模型生成新的指令,并根据指令是否需要输入继续生成输入与输出,再通过相似度和启发式规则过滤,形成迭代数据。实现时要保留来源、生成模型、prompt和过滤版本,防止同一模板无限扩张。 质量控制应按可验证性分层。代码运行测试,数学重算结果,检索型答案检查权威资料和引用,结构化任务用…
匹配正文:答案要点 区分冷启动数据与迭代优化数据的不同获取策略 掌握合成数据生成的具体方法(模型蒸馏、Self-Instruct、多Agent互评) 理解人类反馈的收集形式与质量控制 说明环境交互数据的采集与回放机制 能结合具体场景权衡不同数据策略的优劣 Agent训练数据获取的三类核心途径 一、合成数据生成(解决规模化冷启动) 主流方法: 模型蒸馏:用GPT-4/Claude等强模型生成高质量轨迹,作为SFT监督信号 Self-Instruct演进:种子指令→模型生成→过滤去重→迭代…
匹配正文:…否前后矛盾" 负样本构造:故意改写第N轮回答使其与第1轮冲突,训练判别能力 合成数据策略 用强模型生成种子对话,人工精标关键轮次 Self-Instruct扩展:给定角色设定,采样不同场景生成多样化对话 四、推理机制改进 动态上下文管理 输入 = [系统指令] + [检索记忆: Top-3] + [滑动窗口: 最近6轮] + [当前query] 窗口溢出时:老轮次送summarizer压缩为1句,存入长期记忆 推测解码优化 多轮对话中用户意图变化慢,用draft model复…
学习内容与项目面试,在同一条路上。