页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「编码器-解码器」找到 3 条内容
按专题浏览 →匹配题目：请详细介绍 Transformer 模型的整体架构，包括其编码器-解码器结构、自注意力机制、前馈网络、位置编码等核心组件的工作原理。
匹配正文：…型架构层面 知识增强架构 检索增强生成（RAG）：把外部检索到的资料作为生成上下文，检索器与生成器可以独立更新；不要求生成模型采用编码器—解码器架构。 Self-RAG：引入反思token（Retrieve/IsRel/IsSup/IsUse），让模型自主决定何时检索、如何使用 Toolformer范式：预训练阶段嵌入API调用能力，将外部工具调用内化为模型原生能力 长上下文优化 NTK-aware RoPE、YaRN 等方法用于扩展可处理的上下文；具体长度和质量取决于模型及…
匹配追问：为什么解码器要用因果掩码而不能看到未来token？ 编码器-解码器架构和纯解码器架构（如GPT）各有什么优劣？ Transformer中编码器和解码器的层数设计有什么讲究？ 场景切入 假设你在做一个智能客服，用户说“帮我查一下订单”，然后又说“改成明天到”。编码器和解码器在这里分别怎么干活？谁负责理解“订单”和“改时间”的关系，谁负责组织回复的语言？ 层层追问 Seq2Seq模型里编码器和解码器你觉得主要区别是什么？……那在结构上，比如注意力机制，它们用的一样吗？……如果编码…
学习内容与项目面试，在同一条路上。