页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「RAG 延迟」找到 334 条内容
按专题浏览 →匹配正文：…入业务系统 “把 LLM API、权限、日志、队列和业务流程串起来” 推荐/搜索方向 检索、重排、评估 “把搜索/推荐指标迁移到 RAG 召回和排序” 重点不是“贴一个大模型标签”,而是加入模型链路后的技术决策:为什么用 RAG,文档怎么切,召回怎么评估,错误怎么修,为什么不用微调,怎么控制成本和延迟。 实习优先级:能进真实 AI 团队,比自己闭门造车更值 研究生转大模型最推荐争取实习,因为实习会给你三种稀缺东西: 真实场景:你会知道企业到底在做知识库、客服、办公、推荐、搜索…
匹配追问：你们业务中幻觉问题具体怎么解决的，有没有做事实性校验的pipeline 长上下文场景下你们怎么权衡成本和效果，有没有试过RAG+长文本的混合方案 推理延迟要求很严的话，你们量化方案选的是哪种，有没有做投机解码 场景切入 假设你在做一个实时客服机器人，用户问一句你就要立刻回一句，不能卡顿。你手头有个千亿参数的模型，怎么让它跑得快又不炸显存？ 层层追问 大模型落地主要有哪些瓶颈？……那推理延迟怎么优化？……还有幻觉问题，你遇到过吗？怎么解决的？……长上下文呢，比如处理一份几十页的…
匹配正文：…负责订单系统接口开发 和 AI 岗关联弱 负责模型问答服务接口、鉴权、日志和异常兜底设计 使用 Redis 提升性能 太通用 为 RAG 检索结果和模型响应增加缓存,降低重复查询延迟 处理 MQ 异步任务 没有模型场景 将长文档解析、Embedding 和索引构建拆成异步任务,支持失败重试 做系统监控告警 没有质量闭环 增加回答质量 badcase 采集、延迟和成本指标监控 写了一个 AI demo 太浅 构建企业文档 RAG,覆盖切块、检索、重排、引用溯源和评估集 简历不是…
学习内容与项目面试，在同一条路上。