页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「指令遵循」找到 27 条内容
按专题浏览 →匹配口述回答：…，比如想让模型学会特定语气或者输出格式，RAG 做不到。所以真正落地往往是 RAG 加微调配合，RAG 负责事实性，微调负责风格和指令遵循。 另外，RAG 上线后要持续监控召回质量，比如用 [[RAGAS]] 框架评估 [[Faithfulness]] 和 [[Context Recall]]。如果发现召回不准，可能要调切块大小、换 Embedding 模型，或者加 [[Rerank]] 层。 最后说我的判断：我会把 RAG 看成大模型落地的标配能力，而不是锦上添花。因为只要…
匹配口述回答：…样性，比如把'退款'换成'退钱''不要了''取消订单'这些变体都覆盖到。 整体来看，我更倾向把SFT看成后训练的第一步，它解决的是指令遵循和对话格式问题，但模型可能还会产生[[幻觉]]或者输出不安全内容。所以SFT之后通常还要做[[RLHF]]或[[DPO]]这些对齐环节，进一步让模型符合人类偏好。 说到这，可以延伸一下：SFT之后的对齐阶段，比如RLHF，其实对数据质量的要求比SFT更高，因为它的reward模型需要大量人工偏好标注，而且容易训练不稳定。面试官如果追问，我会…
匹配口述回答：…是默认开启，要用 bad case 证明它们解决了什么问题，同时记录新增的延迟和信息损失。 迭代时先固定评测集，将错误分成事实性、指令遵循、格式、拒答和安全等类型。每次只改有限变量，记录 Prompt、模型和评测集版本，再跑回归测试。结构化输出失败可以有限重试，但重试仍失败时必须进入明确的降级路径。评测集还要包含历史回归样本与新出现的线上切片，避免只针对当前几个 bad case 调到过拟合。 Prompt 注入和越权不能只靠一句‘忽略恶意指令’。系统消息、用户输入、检索文档…
学习内容与项目面试，在同一条路上。