搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「Prompt 优化」找到 240 条内容
按专题浏览 →匹配口述回答:…简单查询走缓存,复杂查询走RAG;而风控合同场景,我会更看重精度,哪怕多花点时间。最后,我始终认为RAG不是一个孤立的组件,它和 Prompt 设计、模型选择、甚至微调策略都要协同考虑。 RAG落地本质是检索和生成的权衡 检索层的延迟与精度矛盾 上下文管理中的信息丢失 Agent决策链的级联错误 我的优化思路与取舍 约4分钟 知识库频繁更新时,增量索引的实时性和一致性平衡,以及双缓冲影子索引的实践 面试官可能会追问增量索引的具体实现细节,比如如何处理删除、如何保证查询一致性、…
匹配口述回答:…。它的优点是透明可解释,容错性强,失败了可以重试,而且不需要特殊训练。但延迟高,token消耗大,需要精心设计 [[System Prompt]] 来约束行为。 第三种是通用Tool Use,像 [[Toolformer]] 这类方案,模型在生成文本里内嵌特殊标记,比如 [TOOL: calculator] 2+2 [/TOOL],后处理提取执行。这主要是给开源模型用的,它们没有原生Function Calling能力。好处是不用改模型架构,通过prompt加后处理就能实现。…
匹配口述回答:…Act执行每一步,这样既保证逻辑连贯,又允许动态调整。 然后是记忆。记忆分两种:短期记忆就是当前对话的上下文,靠[[System Prompt]]和多轮历史维护;长期记忆是跨会话的知识积累,比如用户的历史偏好或者企业政策,我一般用[[Vector Database]]加[[RAG]]来存和检索。这里有个常见的坑:很多人以为长期记忆只存事实就好,但其实要区分知识类型。比如客服场景,退款规则是静态知识,适合向量检索;但用户的历史行为是动态的,更适合用结构化数据库。所以真正落地时,…
学习内容与项目面试,在同一条路上。