页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「Embedding 质量」找到 400 条内容
按专题浏览 →匹配追问：…般怎么处理历史token的Key和Value？……那如果序列很长，比如几十万token，显存怎么扛得住？……有没有办法在不损失太多质量的前提下，把缓存降到一个向量级别？ 直球架构 解释一下MLA的原理，它和标准MHA在KV缓存上有什么区别？再结合KV Cache说一下MLA为什么能节省显存，以及它在大模型长上下文推理中的优化意义。
匹配口述回答：…代码库Agent看成一套分层系统，每一层解决一个问题，而不是一个模型搞定所有。前提是你得有好的AST解析器和准确的调用图，不然检索质量会崩。常见失败场景是依赖扩展时拉入太多无关代码，导致上下文噪声过大。上线我会特别关注上下文命中率和依赖扩展的精度，如果召回率低，先看是不是Embedding模型没训好，再查依赖图是不是漏了边。 代码库Agent的本质难题 多粒度表征与分层检索 上下文压缩与依赖扩展 工具链集成与增量更新 工程师的取舍判断 约4分钟 预计算索引与实时解析的取舍，以…
匹配口述回答：…。 还有一个关键点是工具感知。你不能每次把工具描述写在提示词里，那样上下文会爆炸。我的做法是把工具描述编码成可学习的tool [[embedding]]，和输入做交叉注意力，这样模型能动态理解当前有哪些工具可用。更激进一点，支持动态工具注册，推理时把新工具描述塞进上下文，模型就能[[零样本]]调用，不需要重新训练。 再说训练目标。这里有个明显的课程设计思路。第一阶段先强化通用推理，比如数学、代码、逻辑，这是基础。第二阶段用大量合成数据教模型工具调用的格式，比如给一段工具描述，…
学习内容与项目面试，在同一条路上。