页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「梯度消失」找到 6 条内容
按专题浏览 →匹配标题与标签：…rNorm 的作用机制与在 Encoder/Decoder 中的位置 模型架构 Layer Normalization 残差连接 梯度消失 训练稳定性 Pre-Norm/Post-Norm 2026真题 Transformer 归一化 LayerNorm 作用 Transformer 结构 大模型架构与原理 海尔
匹配题目：…（如损失/准确率曲线、梯度直方图、激活值分布图等）获取模型训练动态的图像反馈。请说明如何从这些可视化结果中识别训练问题（如过拟合、梯度消失），并相应调整学习率、正则化强度等超参数。
匹配正文：…准。 RNN、LSTM 与 GRU 循环网络用隐状态按时间步处理序列，适合流式输入、时序预测和状态持续更新。普通 RNN 容易受到梯度消失或爆炸影响；LSTM、GRU 通过门控缓解而非消除长程依赖问题。训练时跨时间步的依赖限制并行度，但模型尺寸、序列长度和推理方式都会影响实际性能。 Transformer Transformer 用自注意力在 token 间建模依赖，并通过位置编码保留顺序信息。它便于训练阶段并行处理序列位置，已广泛用于语言、视觉和多模态任务。标准全注意力的时…
学习内容与项目面试，在同一条路上。