匹配正文：…ained Decoding 解码时限制token生成空间自研模型/开源方案（如outlines库）小红书场景：笔记标签抽取用JSON Schema强制tags: array<string>，避免模型输出字符串拼接三、后处理层（容错兜底）解析容错：用json5/demjson容忍尾随逗号、单引号等 LLM自修复：解析失败时，将错误信息+原输出喂给模型要求修正（1-2轮重试）规则兜底：关键字段缺失时，用规则补全或返回默认值输出验证：Pydantic模型校验，类型不符…

#小红书#Agent#LLM 输出格式规范

面试题·Prompt· 阿里

怎么让模型稳定输出 JSON?

匹配题目：在大模型应用中，如何设计提示词或后处理机制以确保模型稳定地输出符合JSON格式的结构化内容？

第 1 / 5 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#阿里云

#大模型 JSON 输出

#提示词设计

面试题·Prompt· 字节

LLM 输出格式如何强校验?

匹配标题与标签：LLM 输出格式如何强校验? 大模型输出格式校验与后处理方案,正则+JSON Schema 实践 Prompt 字节 Prompt工程大模型输出过滤输出格式校验 JSON Schema 后处理方案字节

#字节#Prompt工程#大模型输出过滤

面试题·Prompt· 阿里

JSON 输出怎么保证格式稳定?

匹配正文：…能承诺全流程100%可靠。上表的延迟和成熟度仅为选型讨论，必须在具体框架版本、schema与并发条件下实测。学习建议建议先掌握JSON基本语法和LLM生成原理，再学习提示工程与结构化输出技术，动手实践如Outlines、Guidance等工具，结合真实场景进行迭代优化。参考资料 OpenAI 官方：JSON mode、strict schema 与拒绝/截断边界 XGrammar 原论文：token 边界与文法约束

#阿里云#Prompt工程#JSON 格式输出

面试题·Prompt· 阿里

JSON 输出怎么保证稳定可靠?

匹配正文：…→ 硬约束 → 容错修复"的递进策略，而非单一依赖某一层。第一层：提示词工程（软引导）做法系统消息明确角色："你是一个严格的JSON生成器" Few-shot示例：提供2-3个输入→合法JSON的完整样例显式格式指令："只输出JSON，不要markdown代码块，不要解释" 优缺点 ✅ 零成本、易迭代 ❌ 不可靠，模型仍可能幻觉或格式漂移适用：原型验证、对准确率要求不高的场景第二层：约束解码（硬约束）主流方案方案原理适用场景 Grammar-based（如…

#阿里云#Prompt工程#Agent

面试题·RAG· 字节

大模型输出怎么检测和过滤?

匹配追问：场景切入我们有个电商客服场景，模型会生成订单查询结果，但有时输出格式不对，比如字段名拼错或者多了一行废话。你一般怎么确保模型输出的格式和内容都是可用的？层层追问大模型生成的文本你通常怎么处理？……如果要求输出必须是JSON，但模型偶尔会多出markdown或解释性文字，你怎么检测和修复？……再深入一点，假设字段值不在合理范围内，或者逻辑上矛盾，你怎么过滤？直球架构聊一下大模型输出的后处理与校验机制。你从哪些层面做检测？具体用什么方法处理格式错误、内容不合理或不符合业…

#字节#大模型输出过滤#大模型输出检测

面试题·模型架构· 字节

格式化输出 vs 思维链，怎么选？

匹配口述回答：…核心价值是统一接口和复用预训练模型，但方法之间差异很大。一种方式是格式化直接生成。例如输入一段文本，要求模型只输出正面、负面或一个JSON类别字段，训练时对目标字符串做语言建模损失。标签可以是任何合法字符串，不要求一定是自然语言长句。优点是接口简单，风险是格式错误和标签概率受tokenization影响。另一种方式是cloze和verbalizer。PET会把输入改写成带空位的模板，再为每个类别指定一个或多个verbalizer词，依据掩码语言模型对这些候选词的概率进行类别…

#生成式建模#判别式任务转化#Prompt工程

面试题·Agent· 得物

Agent 大模型优化三方向

匹配口述回答：这道题其实在问，当我们想让大模型真正去执行任务、调用工具、和环境交互的时候，现有的通用模型到底缺什么，以及怎么从模型本身去补。我理解核心思路是，不能指望纯对话模型靠提示词就变成[[Agent]]，需要在架构、训练、输出格式上做系统性优化。先说架构层面。最本质的改动是让模型原生支持结构化输出。通用模型输出自由文本，但Agent需要的是能被程序直接解析的指令，比如JSON格式的工具调用。我在实际场景中会这么做：在输出层加一个专门的JSON head，或者用类似Outlines库…

#得物#Agent#Agent 大模型优化

面试题·模型微调

LLM 封闭标签如何强约束?

匹配口述回答：这道题其实问的是，怎么让大模型输出严格限定在我们指定的几个标签里，比如客服场景里，用户问退款问题，模型只能输出“退款中、已退款、退款失败”这几个状态，不能自由发挥。这本质上是可控生成问题，我有几层手段，从轻到重，但真正落地的时候，我不会只依赖一层。先说提示工程，这是最基础的。我会在[[系统提示]]里明确给出标签列表，加上类似“只能从以下选择，不要解释”的指令。再给几个例子，就是 [[Few-shot]]，让模型模仿。但说实话，这层只能管住大部分情况，模型还是可能跑偏，尤其面…

#Agent#LLM 输出限定#封闭标签集

面试题·RAG

LLM 封闭标签方法对比

匹配正文：…校验；strict工具接口本身可能已经封装约束解码，不必重复堆同一层，也不能把格式合法当分类正确。参考资料 OpenAI 官方：JSON mode、strict schema 与拒绝/截断边界 XGrammar 原论文：token 边界与文法约束 vLLM 官方结构化输出接口 Transformers 官方 KV Cache 原理

#封闭集合分类#约束解码#LLM 封闭标签方法对比

面试题·Agent

LLM、Workflow 和 Agent 怎么选？什么任务根本不该做成 Agent

匹配正文：…否可控。三种架构解决三类问题技术名称不决定架构，任务的不确定性、风险和验收方式才决定。先把三个容易混在一起的概念拆开一次 LLM 调用：模型负责理解或生成最简单的形态是把用户输入和提示词交给模型，模型返回文本或结构化结果，流程结束。例如，教学场景中有一段已经脱敏的会议记录，需要提炼三条行动项。输入、输出和处理步骤都很明确，也不需要模型访问外部系统。你可以要求它按固定 JSON 输出，再由程序校验字段。这里使用 LLM 是因为自然语言理解和生成有价值，但没有必要增加…

#Agent#架构与规划#Agent 和 Workflow 区别

求职指南·求职

大模型应用开发要懂哪些概念、懂到什么程度

匹配正文：…己决定调哪个工具、按结果再决策能说清一次工具调用的请求-执行-回填闭环 /ai-coding 第 3 章 Prompt 与结构化输出用提示词约束任务,并要求返回 JSON 等固定格式能写出让下游能解析的稳定输出,知道怎么处理格式跑偏系统提示词微调 vs 提示工程改模型权重 vs 只改输入,两条改行为的路径能判断一个需求该先试提示还是该上微调模型微调题库评估指标 Recall / MRR / 忠实度等衡量系统好坏的量能说出各指标衡量哪一环、少了它面试会露评…

#求职#职业转型

面试题·Agent

Function Calling 有了 JSON Schema，为什么工具参数还是会错？

匹配正文：Function Calling 让模型不再输出一段难以解析的“Action 文本”，而是返回工具名和结构化参数。这确实解决了很多格式问题。但结构化不等于正确。模型可以输出合法 JSON，却把 top_k 设得过大；可以满足字符串类型，却把关键词填进 URL 字段；可以选中正确工具，却漏掉当前页面 ID；也可以生成业务上不允许的参数组合。更危险的是，程序若看到 Schema 校验通过就直接执行，越权访问、重复写入、资源消耗和错误证据都会进入真实系统。所以面试官问“怎…

#Deep Research#研究工具与稳定性#Function Calling 参数校验

面试题·评估· 百度

大模型应用怎么保障可靠性?

匹配标题与标签：大模型应用怎么保障可靠性? 验证机制、反馈闭环与测试框架三大技术手段详解评估数据验证输出校验反馈闭环模型监控可靠性工程 2026真题大模型可靠性验证机制测试框架大模型评测百度

#数据验证#输出校验#反馈闭环

面试题·项目与经历· 商汤科技

大模型项目缺陷修复

匹配口述回答：【30秒速答】大模型项目的缺陷至少要分成泛化、性能、一致性和可靠性四类。过拟合看训练与独立验证差距、泄漏和域偏移；延迟拆成排队、prefill、逐 token 解码与工具调用；输出不一致先检查采样、提示、检索和外部工具；事实与安全问题要回到证据、权限和审核。投机解码是草稿模型提议、目标模型验证，不是用小模型打分。Self-Consistency 只聚合多条推理路径，不能替代检索或事实核验。【90秒主答】过拟合的处理顺序是先证明现象。若训练损失继续下降而独立验证质量变差，…

#过拟合#推理优化#输出稳定性

面试题·评估· 快手

LLM 如何集成外部工具与记忆?

匹配正文：…Chains 预定义的工作流（如LLMChain、SequentialChain）固定步骤的流水线任务 Agents 动态决策：LLM自主决定调用哪个工具、下一步动作多工具协作的复杂任务 Memory 对话历史的存储与注入多轮对话、长期个性化关键集成机制工具绑定（Tools）工具 = 函数签名描述（name/description）+ 实际执行体 LLM通过Function Calling或ReAct提示解析用户意图，输出工具调用JSON Agent循环：Thou…

#快手#评估与监控#Agent

面试题·评估· 蚂蚁

大模型客服评估：伪代码与指标

匹配正文：答案要点明确质检维度设计（服务态度、专业能力、问题解决、合规风险）大模型评估与规则引擎的混合架构幻觉风险控制机制可解释性输出设计实时性与成本平衡策略核心设计思路 1. 质检维度分层基础层（规则可检）：敏感词、响应时效、挂机规范语义层（模型评估）：情绪识别、共情表达、主动追问业务层（模型评估）：方案准确性、一次性解决率、升单合规性 2. 混合架构：规则引擎 + 大模型Agent ┌─────────────────────────────────────┐ │…

#蚂蚁#客服质量评估#大模型评估系统

面试题·模型微调· 小红书

意图识别结构化输出失败如何修复

匹配口述回答：这道题问的是大模型意图识别输出格式不理想怎么优化，其实本质是同一个问题：怎么在模型自由生成的文本和我们要的结构化数据之间，搭一座桥。不是让模型学会写JSON，而是让它只在我们划定的输出空间里选择。具体我会从三个层面来拆解，先说提示工程，这是最轻量、见效最快的。核心做法是给模型一个明确的格式模板，比如用###输出格式###把字段名、类型、可选值都写清楚。再给两三个[[Few-shot]]示例，而且示例里要包含推理过程，就是让模型先分析用户输入里的关键词，再输出结构。举个例子，…

#小红书#意图识别格式优化#结构化输出

面试题·项目与经历· 美团

信息抽取：规则 vs LLM

匹配口述回答：…位。规则的局限是覆盖依赖人工枚举，规则叠加后会有冲突和维护债务；每次业务变更仍要回归测试，所以不能说零成本、零延迟或百分之百正确。LLM 更适合从邮件、合同或客服文本中抽取意图和实体，能通过指令与示例适应多种表达，但同一语义可能出现遗漏、幻觉或格式漂移。即使使用严格 JSON schema，也只是约束输出结构，金额、主体和日期是否抽对仍需验证。Few-shot 的示例本身属于 prompt 上下文，例子越多通常输入 token 越多。它的商业价值可能来自少写规则、少重试或更快…

#规则引擎#LLM应用#成本优化

面试题·评估· 字节

LLM 幻觉与安全风险怎么缓解?

匹配正文：…，抑制两者都容易给出的退化候选；它不是简单重复惩罚，也不是事实保证。后处理与评测：按断言核验来源、使用规则/分类器过滤、对高风险输出拒答或转人工。水印用于来源追踪或识别生成文本，不会降低幻觉本身。评测应分开测 factuality、faithfulness、偏见、有害内容、越狱、隐私与工具越权，并覆盖正常与对抗流量。图解 LLM 幻觉与安全风险怎么缓解?图解

#幻觉检测#内容安全#RLHF

面试题·Agent· 百度

Tool Calling 决策机制与执行流程

匹配口述回答：这道题问的是工具调用，其实本质就是问大模型怎么跟外界交互。模型本身是静态的，它不知道实时天气、不会查数据库、不能操作API，所以需要一种机制让模型能说“我需要用某个工具”，然后我们把结果喂回去让它继续推理。实现路径主要有两种。一种是原生支持，像OpenAI、Claude这些模型在训练时就注入了工具调用能力，你只需要按格式传tools参数，它就会输出结构化的调用请求。另一种是提示工程，对通用模型在[[System Prompt]]里把工具描述、输出格式、流程都写清楚，让模型通…

#百度#Agent#Tool Calling 架构

系统教程·Prompt

Prompt 工程面试题大全

匹配正文：…失败怎么处理？先用 schema 和示例约束，再做解析校验、失败重试、局部修复和兜底路径。面试里要讲出工程闭环，而不是只说让模型输出 JSON。 Prompt 和 RAG、Agent 是什么关系？ Prompt 是 RAG 和 Agent 的接口层：RAG 用它组织上下文和引用，Agent 用它定义任务、工具与停止条件。好的 Prompt 工程必须和系统设计一起看。继续学习大模型技术栈全景：Prompt 在应用岗里考多少做一个 Agent 项目怎么做：Prompt 与…

#专题学习#Prompt 工程面试题大全

面试题·Agent

Agent Planner 生成的计划为什么不能直接执行？怎么校验和动态重规划

匹配正文：面试官问：“Planner 已经把任务拆成步骤了，为什么还要做计划校验？” 一个很危险的回答是：“因为大模型偶尔会幻觉，所以再让模型检查一遍。” 问题不只在于模型可能写错，而在于“计划”连接了自然语言目标和真实工具。一份看起来顺畅的计划，可能引用不存在的工具、漏掉必要前置步骤、使用无来源参数、超过预算，甚至包含当前用户无权执行的动作。它如果直接进入 Executor，模型的一次语言错误就会变成系统行为。因此，LLM Planner 输出的是候选计划，不是执行授权。工程系统要…

#Agent#架构与规划#Agent 计划校验

大模型输出JSON怎么保正确?

LLM 输出格式不规范怎么修?

怎么让模型稳定输出 JSON?

LLM 输出格式如何强校验?

JSON 输出怎么保证格式稳定?

JSON 输出怎么保证稳定可靠?

大模型输出怎么检测和过滤?

格式化输出 vs 思维链，怎么选？

Agent 大模型优化三方向

LLM 封闭标签如何强约束?

LLM 封闭标签方法对比

LLM、Workflow 和 Agent 怎么选？什么任务根本不该做成 Agent

大模型应用开发要懂哪些概念、懂到什么程度

Function Calling 有了 JSON Schema，为什么工具参数还是会错？

大模型应用怎么保障可靠性?

大模型项目缺陷修复

LLM 如何集成外部工具与记忆?

大模型客服评估：伪代码与指标

意图识别结构化输出失败如何修复

信息抽取：规则 vs LLM

LLM 幻觉与安全风险怎么缓解?

Tool Calling 决策机制与执行流程

Prompt 工程面试题大全

Agent Planner 生成的计划为什么不能直接执行？怎么校验和动态重规划