页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「LLM API 调用」找到 179 条内容
按专题浏览 →匹配口述回答：…ias能热更新，而不需要重新部署模型。这块其实可以结合 [[Function Calling]] 的思路，把类别列表当成外部工具来调用。 所以整体来看，我会把约束解码看成最终保底方案，具体选型要依据所用接口与独立题集；验收用精确成员检查，同时记录拒答、截断和合法标签内的语义错误。 本质是让大模型做受限选择，核心在平衡可控与灵活 直接提示和CoT适合简单场景，但工业落地不够稳 Logit Bias只调整token概率，首token限制不能保证完整标签 完整标签约束与托管enum…
匹配口述回答：这道题其实问的是，怎么让大模型不光会想，还能动手。[[ReAct]]这个框架的核心，就是把推理和行动串成一个循环，模型每想一步就调用一次工具，拿到反馈再接着想，直到把问题解决。它不是先生成一个完整的计划再去执行，而是一边干一边调整，有点像人做复杂任务的时候，走一步看一步。 具体说一下几个关键模块。首先是Plan，很多人以为Plan就是一开始定好的步骤，其实不是。ReAct里的Plan是动态的，每一步的Thought都在根据最新的Observation重新评估，说白了就是推理链…
匹配口述回答：…，收敛更稳定。 验证阶段，我习惯分三步走。先是离线评估，用单元测试加对抗样本集，把已知的风险模式都测一遍，比如输出格式对不对、工具调用参数合不合法。然后上仿真沙箱，模拟真实交互，验证工具调用链是不是完整，这一步特别适合 [[Function Calling]] 场景，比如让模型调库存查询API，得确保参数传对了。最后是小流量在线A/B测试和影子模式，在真实流量里跑，看有没有回归。红队测试不能省，人工攻击总能发现自动化测试漏掉的问题。 约束阶段，说白了就是硬边界兜底。我会用规则…
学习内容与项目面试，在同一条路上。