匹配正文：答案要点方案覆盖提示工程、解码约束、后处理、微调四个层面能区分不同方案的适用场景和优缺点提到实际工程中的组合策略理解约束解码的实现原理（如Logits Processor）整体思路这是一个可控生成问题，核心是让模型输出严格落在封闭集合内。我采用"分层防御"策略，从软约束到硬约束逐层加固。四层技术方案 1. 提示工程（软约束） prompt = """请将用户问题分类到以下标签之一：[退款, 换货, 投诉, 咨询, 其他] 只允许输出单个标签，不要解释。用户问题…

#约束解码#标签集合#LLM 标签约束解码

面试题·模型微调

LLM 封闭标签如何强约束?

匹配正文：…ma是工程实践标准方案后处理校验作为兜底机制核心思路封闭标签输出本质是可控生成问题，需多层防护：提示工程 → 模型能力 → 解码约束 → 后处理校验。技术手段（按优先级） 1. 提示工程（基线） Zero-shot：明确指令 + 标签列表 + "只能从以下选择" Few-shot：提供输入→标签的示例，稳定输出格式加格式约束："输出必须是以下之一：[A, B, C]，不要解释" 2. 约束解码（强保障）原理：在解码每一步，只保留合法标签token的logits，非…

#Agent#LLM 输出限定#封闭标签集

面试题·模型训练· 字节

Prompt vs Seq2Seq，怎么转？

匹配正文：…定基座或把模型规模和成本单独报告。指标包含宏微F1、结构有效率、延迟、token成本和跨域鲁棒性；再做模板、verbalizer和解码约束消融。若少样本结果波动大，要跨seed和模板报告均值，不可用单一数据集证明生成范式普遍更优。

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#Prompt工程#统一生成建模#判别式转生成式

面试题·Agent· 高德

Tool Calling 参数格式怎么保?

匹配正文：…FT（首token时间）和推理延迟，约5-15%开销。 2. Schema-guided生成机制：将JSON Schema编译为解码约束，字段类型、枚举值、必填项实时校验。 # 典型流程：Schema → 中间表示 → 掩码矩阵 schema = { "type": "object", "properties": { "location": {"type": "string"}, "radius": {"type": "integer", "minimum": 0} }, …

#高德#Tool Calling 参数格式#约束解码

面试题·评估· 京东

RAG vs RLHF 幻觉治理

匹配正文：…优化 + 人类偏好对齐 RAG：用外部知识划定"能说什么" 机制：检索相关文档 → 组织上下文 → 生成并检查证据支持；提示不是硬解码约束。优势：可追溯资料并更新知识库；简单实现可复用现有模型而不重新训练，检索器/生成器也可以按任务训练。局限：检索质量决定上限、无法纠正模型内在偏见、上下文长度受限典型场景：客服问答、企业知识库、实时信息查询 RLHF：用偏好反馈教会"该怎么说" 机制：经典PPO式RLHF常为SFT → 偏好数据训练Reward Model → PPO；…

#京东#RAG 与 RLHF#RAG vs RLHF 幻觉治理

面试题·模型架构· 字节

判别式转生成式有哪些方法？

匹配口述回答：…出类别名称、数字ID、代码字符串或JSON字段。生成模型并非不能输出ID标签，只要该标签能被tokenizer表示，并且训练目标与解码约束定义清楚。需要注意的是，多token标签会引入长度和tokenization差异，线上还要验证格式合法率。还有一类是in-context learning。它把任务说明和若干输入输出示例放进上下文，在推理阶段改变条件分布，但不通过优化器更新模型权重。后续还要看soft prompt或prefix tuning，它虽然可能冻结主体模型，却要…

#生成式建模#判别式转生成式#Prompt工程

面试题·Prompt

封闭标签分类如何约束解码?

匹配口述回答：…。最后是约束解码，也就是在生成过程中，每一步只允许模型从合法的token序列里选。它限制输出形式，但不保证选对语义标签。可以自建解码约束，也可以用支持enum的严格结构化托管接口，不一定要改推理引擎。比如金融风控场景，输出必须严格匹配「通过」「拒绝」「人工审核」这三个词，可以比较严格enum输出、完整序列约束、确定性分类器与规则，并处理拒答和截断；格式合规不等于风控决定正确。可以用 outlines 或 guidance 这些库，也可以自研有限状态机。实际落地的时候，我很…

#Logit Bias#约束解码#封闭集合标签分类