搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「监督微调」找到 133 条内容
按专题浏览 →匹配正文:…靠ICL能力生成调用 工具少、调用简单、快速上线 零成本,但复杂场景易幻觉、格式不稳定 微调增强 用<tool_call>标注数据SFT,训练模型输出结构化调用 工具多、领域专用、高稳定性要求 准确率高,但需标注数据、灵活性差 代理框架 ReAct/Plan-and-Execute循环,LLM作为推理引擎决策 多步推理、动态规划、复杂Agent 可解释性强,但延迟高、成本高 二、Function Calling标准流程 用户Query → 工具描述注入Prompt → LLM…
匹配正文:…yDE(假设文档嵌入)、Self-RAG(反思token) 局限:检索失败时幻觉反而加重,需配合置信度校准 2. 微调策略 事实性SFT:用高质量QA对训练,强化"不知道就拒绝" 偏好对齐:RLHF/DPO中引入事实性奖励,惩罚幻觉输出 知识蒸馏:从大模型蒸馏事实性强的推理链到小模型 3. 推理时干预(Inference-Time Intervention) 不修改模型,在生成过程中干预: 方法 机制 代表工作 对比解码 对比大模型与浅层输出,抑制幻觉 DoLa 注意力引导 …
…shot的典型场景: 任务模式复杂但样本少:如特定格式的日志解析、领域术语翻译,10-20个示例即可定义模式,无需几百条标注数据做SFT 需求变化快/多租户场景:不同客户(运营商A/B/C)有各自格式规范,用动态示例切换比维护多个LoRA权重更灵活 冷启动阶段:快速验证PMF,避免重训成本 三方案对比决策: 维度 Zero-shot Few-shot Fine-tuning 数据需求 无 5-20条 数百-数千条 成本 最低(推理) 低(推理+示例token) 高(训练+部署…
学习内容与项目面试,在同一条路上。