搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「RAG Prompt 设计」找到 203 条内容
按专题浏览 →匹配口述回答:…方向。 先说 LangChain,它最出名,特点是模块化、链式调用,后来加了LangGraph支持状态图。适合快速搭原型或者做[[RAG]]加Agent的混合系统。但我实际用下来有个坑:抽象层太厚,调试起来非常痛苦。比如一个多步推理流程,中间某步[[Function Calling]]返回异常,你得一层层剥开才知道是哪里的prompt写崩了。所以我的建议是,POC阶段可以用,但一旦进入生产,要么换更轻量的方案,要么你团队有足够精力去啃它的源码。说白了,LangChain适合'…
匹配口述回答:…曲线,每次只改一个变量。报告 Recall@K、任务成功率、首 token、每 token、P95/P99、吞吐、显存和成本。最后设计过载降级:检索超时用受控缓存或拒答,生成过载限流或路由,但不能用未经验证的结果假装成功。 高并发优化还要关注排队论和背压。单个阶段平均很快,不代表尾延迟可控;到达率接近服务能力时,队列会迅速增长。入口应有并发上限、优先级、截止时间和拒绝策略,下游将剩余时间继续传递,避免父请求已超时而子任务仍消耗资源。动态批处理也要限制等待窗口,防止为吞吐牺牲交…
匹配正文:一、数据构建 偏好数据收集 显式标注:人工对同一prompt的多个response进行排序(A>B>C),用Bradley-Terry模型建模 隐式反馈:点击率、停留时长、是否复制/分享,需设计position bias消除机制 多维度标注:有用性、安全性、事实性、风格一致性,避免单一分数的信息损失 数据质量控制 标注者一致性检验(Kappa系数>0.6) 困难样本挖掘:模型置信度接近0.5的pair优先标注 领域覆盖:电商场景需覆盖售前咨询、售后、比价等细分场景 二、模型架…
学习内容与项目面试,在同一条路上。