搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「动态Prompt训练数据」找到 27 条内容
按专题浏览 →匹配口述回答:…理和行动分开,这样模型不会把“我要调用API”和“API返回了什么”混在一起。 还有一个关键点是工具感知。你不能每次把工具描述写在提示词里,那样上下文会爆炸。我的做法是把工具描述编码成可学习的tool [[embedding]],和输入做交叉注意力,这样模型能动态理解当前有哪些工具可用。更激进一点,支持动态工具注册,推理时把新工具描述塞进上下文,模型就能[[零样本]]调用,不需要重新训练。 再说训练目标。这里有个明显的课程设计思路。第一阶段先强化通用推理,比如数学、代码、逻辑…
匹配口述回答:…哪些明确没有使用。只说生态丰富或开发快,不能证明适合生产。 如果涉及模型训练,还要区分工具路由分类器、参数生成模型和通用对话模型。训练数据应说明采样窗口、脱敏、负样本、训练验证切分与泄漏检查;指标不能只报分类准确率,还要看错工具的风险、参数合法率和端到端任务成功率。若只是 Few-shot、检索工具描述或 Prompt 调优,应如实称为推理侧优化。 线上部分我会用一条真实 trace 说明截止时间怎样向子调用传播,哪些错误允许重试,哪些必须立即失败,重试是否使用幂等键,何时熔…
…了。常见失败场景是迭代检索陷入死循环,模型反复说“还需要查”,这时候得设最大轮次,超时就用默认策略。 所以我会把现代RAG看成一种动态决策系统,而不是简单的检索+生成。我更倾向的做法是先用[[Corrective RAG]]做置信度评估,低置信时触发工具扩展或生成降级,同时保留传统流程兜底。 另外有个点值得注意,就是这些反思token是怎么训练出来的?像Self-RAG是用了[[SFT]]来教模型输出这些控制信号,但训练数据构造本身就很讲究,比如负样本怎么采样,直接关系到模型…
学习内容与项目面试,在同一条路上。