页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「RAG 存储」找到 157 条内容
按专题浏览 →匹配正文：…复杂度和信息可达性不同。解码时KV缓存随层数、序列和KV头增长，可做量化、分页、淘汰或压缩。只看元素位宽，FP16到INT8约为原存储的一半，到INT4约为四分之一；scale、分组元数据、异常值和对齐会让实际比例偏离。 工程验证 先按任务建立长度分桶和位置探针，包含开头、中间、结尾证据、跨段组合和干扰文档。再对原生窗口、位置扩展、检索分块、滑窗与序列并行方案，统一测准确率、召回率、首token延迟、prefill吞吐、峰值显存、KV占用和跨卡通信。位置扩展要比较窗口内能力是…
匹配口述回答：…期挑战。 其实还有一个更深层的问题，就是持续学习和记忆。现在的Agent每次交互完了就完了，不会真的更新自己的能力。记忆系统停留在存储-检索，缺乏抽象和整合。如果面试官感兴趣，我可以展开说说怎么用[[Self-RAG]]或者[[Reflexion]]让Agent从错误中学习。 所以我的判断是，AGI级别的Agent需要架构层面的突破，不是单纯靠Scaling能解决的。我更务实的看法是，未来五到十年，应该是专业Agent集群加人机协同的路线，而不是追求单体的完全自主。 本质差距…
匹配口述回答：…kpoint。这意味着你可以随时暂停、恢复，甚至把某一步交给人工处理。这点在生产里特别关键。 LlamaIndex 的定位更偏[[检索增强]]，它的 Agent 本质上是对 RAG 流程的封装。如果你的场景强依赖知识库，比如企业 SOP 检索加生成，LlamaIndex 天然合适，因为它把文档索引、查询引擎、工具调用揉在了一起。但它的 Agent 能力相对轻量，不适合做复杂的多步骤决策。 AutoGPT 是另一个方向，目标驱动循环，一直思考、执行、观察、记忆，直到任务完成。听…
学习内容与项目面试，在同一条路上。