搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「LLM Agent 架构」找到 269 条内容
按专题浏览 →匹配正文:…及适用场景 提及RAG的典型优化方向(查询改写、上下文压缩、多路召回) 能指出实现中的常见陷阱(如切分粒度、语义漂移) RAG核心架构:两阶段流水线 索引阶段(离线) 文档处理:按语义/固定长度切分chunk,控制256-512 tokens,保留上下文重叠 向量化:用Embedding模型(如BGE、M3E、OpenAI text-embedding-3)编码为稠密向量 存储:写入向量数据库(Milvus、Faiss、Elasticsearch),可搭配稀疏索引(BM25)…
匹配口述回答:…无来源输出。同时用约束解码,禁止生成索引里没有的信息,比如设一个医学安全词表,拦截不存在的药品名。另外,检索结果有时很长,我会用 LLM 自己做上下文压缩,去冗余,只保留关键证据链。 评估不能只看常规指标。检索质量我关注 Recall@K,生成质量我关注事实准确性,用 NLI 模型检测有没有 [[Hallucination]]。但更重要的业务指标是可追溯性,看生成内容是不是每句话都能追到源文档,还有专家满意度,请领域专家盲评。我的取舍是:宁可回答不了,也不瞎回答。 如果检索结…
匹配口述回答:…直接让模型说“不确定”,避免胡编。 所以整体上,我更倾向于把[[RAG]]当成一个可解释、可更新的外挂,而不是把所有理解能力都压在大模型本身。纯多模态模型虽然也能看图,但解释的来源是黑盒,出了问题没法排查;RAG至少能溯源到具体文档,内部术语和业务逻辑也能通过知识库灵活注入,不用每次改个文案就重新微调模型。当然,如果界面非常复杂、组件间交互很多,RAG也扛不住,那就得结合[[Agent]]或者多步推理了。 一句话定位:本质是让大模型看懂界面并解释功能 视觉理解与组件解析:用检…
学习内容与项目面试,在同一条路上。