匹配标题与标签：Encoder vs Decoder 核心区别? 结构设计与功能定位对比,机器翻译场景详解模型架构 Transformer Encoder-Decoder架构自注意力机制机器翻译序列建模 2026真题 Encoder Decoder 区别序列建模架构机器翻译 Encoder Decoder 大模型架构与原理海尔

#Transformer#Encoder-Decoder架构#自注意力机制

面试题·模型架构· 海尔

LayerNorm 如何控制激活尺度?

匹配标题与标签：LayerNorm 如何控制激活尺度? 从特征归一化、极端 logit 与残差梯度路径解释稳定边界模型架构 Layer Normalization 梯度稳定训练收敛归一化技术 Transformer架构 2026真题 LayerNorm 激活尺度控制 Transformer 激活稳定性残差梯度路径 LayerNorm 机制大模型架构与原理海尔

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#Layer Normalization#梯度稳定#训练收敛

面试题·模型架构· 字节

Few-shot 推理为何有效?

匹配标题与标签：Few-shot 推理为何有效? 从预训练目标看少样本推理的机制与表现提升模型架构上下文学习预训练目标隐式梯度下降元学习涌现能力 2026真题 Few-shot 推理机制大模型少样本学习预训练目标与推理大模型架构与原理字节

#上下文学习#预训练目标#隐式梯度下降

面试题·模型架构· 字节

自回归生成用 token id 还是概率分布?

匹配标题与标签：自回归生成用 token id 还是概率分布? 解码策略原理:采样/贪婪 vs softmax 分布,影响生成质量模型架构自回归生成 softmax采样梯度传播离散化训练推理差异 2026真题解码策略 token id vs 概率分布 softmax 分布采样与贪婪大模型架构与原理字节

#自回归生成#softmax采样#梯度传播

面试题·模型架构· 字节

FFN 隐藏层维度为何扩 4 倍?

匹配标题与标签：FFN 隐藏层维度为何扩 4 倍? Transformer 中 d_ff 的扩维动机与理论依据模型架构 Transformer FFN 维度扩展模型容量信息瓶颈 2026真题 FFN 隐藏层维度 Transformer d_ff 前馈神经网络扩维大模型架构与原理字节

#Transformer#FFN#维度扩展

面试题·模型架构· 百度

AI 论文怎么读?核心思想+创新点

匹配标题与标签：AI 论文怎么读?核心思想+创新点大模型领域论文阅读方法,从创新点到工作启发模型架构论文阅读技术追踪学术敏感度前沿动态知识迁移 2026真题 AI 论文阅读大模型论文论文核心思想大模型架构与原理百度

#论文阅读#技术追踪#学术敏感度

面试题·模型架构· 商汤科技

幻觉一致性延迟诊断

匹配标题与标签：幻觉一致性延迟诊断按幻觉、输出不一致、延迟症状定位根因，补充适用边界与工程取舍模型架构幻觉问题输出一致性推理延迟模型对齐系统优化 2026真题幻觉一致性延迟诊断大模型问题怎么排查？幻觉、输出不一致与延迟诊断大模型缺陷修复幻觉解决方法模型输出不一致大模型架构与原理商汤科技

#幻觉问题#输出一致性#推理延迟

面试题·模型架构· 百度

VQ-VAE 与传统 VAE 有何不同?

匹配标题与标签：VQ-VAE 与传统 VAE 有何不同? 离散表示学习原理、模型结构及应用场景详解模型架构 VQ-VAE 离散表示学习变分自编码器向量量化多模态生成 2026真题 Vector Quantized Variational Autoencoder VAE 区别大模型架构与原理百度

#VQ-VAE#离散表示学习#变分自编码器

面试题·模型架构· 百度

LayerNorm 前向实现：数值稳定性陷阱

匹配标题与标签：LayerNorm 前向实现：数值稳定性陷阱 Python+NumPy 手动实现，多维归一化与低精度数值稳定性模型架构 Layer Normalization 数值稳定性前向传播 Transformer 归一化 2026真题 Layer Normalization 实现 NumPy LayerNorm 层归一化前向传播大模型架构与原理百度

#Layer Normalization#数值稳定性#前向传播

面试题·模型架构· 海尔

Self-Attention 怎么计算 QKV?

匹配标题与标签：Self-Attention 怎么计算 QKV? 注意力权重生成过程详解,从输入到加权求和模型架构 Self-Attention Transformer 注意力机制 Query-Key-Value 缩放点积注意力 2026真题 Self-Attention 原理 QKV 计算注意力权重生成大模型架构与原理海尔

#Self-Attention#Transformer#注意力机制

面试题·模型架构· 美团

Transformer 架构核心组件原理

匹配标题与标签：Transformer 架构核心组件原理编码器-解码器、自注意力、位置编码等核心组件详解模型架构 Transformer 自注意力机制位置编码多头注意力编码器-解码器 2026真题 Transformer 架构大模型架构与原理美团

#Transformer#自注意力机制#位置编码

面试题·模型架构· 字节

Multi-Head Attention 维度变化

匹配标题与标签：Multi-Head Attention 维度变化手动实现 QKV 变换、缩放点积、多头拼接及输出投影模型架构多头注意力 Transformer 注意力机制 PyTorch 张量操作 2026真题 Multi-Head Attention 实现缩放点积注意力多头注意力维度变化大模型架构与原理字节

#多头注意力#Transformer#注意力机制

面试题·模型架构· 安克科技

GPT vs BERT 核心区别在哪?

匹配题目：请从模型架构、训练目标、应用场景、输入输出特点等方面系统对比GPT系列与BERT系列大语言模型的主要区别，并说明它们分别适用于哪些任务类型。

#自回归模型#自编码模型#Transformer

面试题·模型架构· 海尔

Decoder-only 架构为何是主流?

匹配标题与标签：Decoder-only 架构为何是主流? 从建模目标、训练效率、推理特性三角度分析优势模型架构 Decoder-only架构自回归生成因果注意力训练效率涌现能力 2026真题 Decoder-only 架构大模型架构选型 GPT 架构优势大模型架构与原理海尔

#Decoder-only架构#自回归生成#因果注意力

面试题·模型架构· 百度

Flow Matching 原理是什么?

匹配标题与标签：Flow Matching 原理是什么? 生成模型中连续归一化流的核心机制与应用模型架构生成模型连续归一化流扩散模型概率流神经网络ODE 2026真题 Flow Matching 大模型架构与原理百度

#生成模型#连续归一化流#扩散模型

面试题·模型架构· 京东

MLA 与 KV Cache 怎么用?

匹配题目：请解释MLA（Multi-Head Latent Attention）的基本原理及其在大模型架构中的应用；同时说明KV Cache（Key-Value Cache）的作用机制及其在推理过程中的优化意义。

#MLA#KV Cache#注意力机制

面试题·模型架构· 360

BERT+CRF 怎么联合训练?

匹配标题与标签：BERT+CRF 怎么联合训练? NER 任务中 BERT 与 CRF 各自作用、联合训练及优势模型架构 BERT CRF 命名实体识别序列标注结构化预测 2026真题 BERT+CRF 命名实体识别 NER BERT CRF 联合训练大模型架构与原理 360

#BERT#CRF#命名实体识别

面试题·模型架构· 字节

LayerNorm vs RMSNorm 原理差异?

匹配标题与标签：LayerNorm vs RMSNorm 原理差异? 大模型中两种标准化方法的原理、计算与适用场景对比模型架构 Layer Normalization RMS Normalization Batch Normalization 归一化方法 Transformer 2026真题 LayerNorm vs RMSNorm 标准化方法大模型训练 RMSNorm 原理大模型架构与原理字节

#Layer Normalization#RMS Normalization#Batch Normalization

面试题·模型架构· 美团

多头注意力原理与QKV拆分陷阱

匹配标题与标签：多头注意力原理与QKV拆分陷阱 QKV拆分、并行计算与位置编码，内存优化详解模型架构多头注意力 Transformer 并行计算位置编码矩阵运算 2026真题多头注意力实现 Multi-Head Attention原理 QKV拆分内存布局优化大模型架构与原理美团

#多头注意力#Transformer#并行计算

面试题·模型架构· 京东

位置编码怎么选? RoPE vs ALiBi

匹配正文：…m 是 token 位置，i 是特征维度对子，不能混写。旋转后的 Q/K 点积依赖相对位置差。选型要同时看训练长度、目标上下文、模型架构、缓存实现和长上下文评测。ChatGLM-6B 的二维 RoPE 不应被列为 ALiBi 的代表。

#位置编码#RoPE#相对位置编码

面试题·模型架构· 百度

VQ-VAE 损失与码本更新

匹配标题与标签：VQ-VAE 损失与码本更新 VQ-VAE 三类损失、梯度路径与 EMA 码本更新模型架构 VQ-VAE 向量量化离散表示学习生成模型变分自编码器 2026真题 VQ-VAE 损失与码本更新 VQ-VAE 损失函数如何训练码本 VQ-VAE 原理向量量化变分自编码器大模型架构与原理百度

#VQ-VAE#向量量化#离散表示学习

面试题·模型架构· 百度

DDPM vs Flow Matching: 建模与训练差异?

匹配标题与标签：DDPM vs Flow Matching: 建模与训练差异? 建模思路、训练方式、生成路径与数学形式对比模型架构生成模型扩散模型流匹配概率流ODE 生成式AI 2026真题 DDPM vs Flow Matching 扩散模型对比生成模型选型大模型架构与原理百度

#生成模型#扩散模型#流匹配

面试题·模型架构· 字节

RMSNorm推理效率更高吗?

匹配题目：在实际的大模型架构中，LayerNorm与RMSNorm在性能、训练稳定性及推理效率方面有哪些具体差异？当前主流模型（如LLaMA系列）更倾向于使用哪种？为什么？

#LayerNorm#RMSNorm#归一化技术