搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「LLM 检索增强生成」找到 414 条内容
按专题浏览 →匹配正文:…荐任务 关键优势与挑战 优势: 天然融合内容信息(标题、图文),缓解ID冷启动 统一框架支持多任务(推荐+解释+对话) 利用预训练LLM的泛化能力 挑战: 推理延迟:自回归生成 vs 向量内积检索 ID词汇表爆炸:百万级物品需高效Token化(如Semantic ID、分层编码) 位置偏差:生成顺序影响多样性 小红书场景的思考 笔记推荐适合生成式范式——内容属性丰富(标题、标签、图文),可生成"为什么推荐"的解释增强信任。但需解决:① 十亿级笔记的ID压缩 ② 在线P99延迟…
匹配正文:…测下一个token"。 四个维度的改进方向 1. 模型架构:统一生成范式 当前:ID-based序列建模(SASRec等)与生成式LLM割裂 趋势:用生成式统一框架替代多阶段漏斗(召回→粗排→精排→重排) 关键:设计适配推荐的Tokenizer(将item ID、属性、内容编码为统一token) 2. 训练方式:多任务+反馈学习 引入RLHF/DPO:利用用户真实反馈(点击、收藏、时长)优化生成质量 解决生成式推荐的"曝光偏差"和"奖励稀疏"问题 小红书场景:笔记生成需对齐"…
…就没辙了。所以我会把它当兜底策略,保证延迟可控,再往上叠其他方法。 然后是语义重写,这个就用上模型了。比如用户说「那个红色的」,用LLM或者T5这种模型改写,变成「红色连衣裙」,或者「苹果」这个词,根据上下文判定是手机还是水果。这个方法的优势是能处理口语化和不完整的Query,劣势是延迟高、成本高。所以我不会所有流量都走语义重写,而是只对长尾Query或者对话场景做重写,或者用个小模型先过滤一遍。 再一个就是对话历史融合,这个在[[RAG]]系统里特别重要。用户多轮对话里经常…
学习内容与项目面试,在同一条路上。