搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「BERT」找到 51 条内容
按专题浏览 →匹配正文:核心对比 维度 GPT 类 BERT 类 架构 Decoder-only,causal self-attention Encoder-only,双向 self-attention 预训练目标 自回归 next-token prediction 原始 BERT 使用 masked language modeling,并包含 NSP 输出 每个位置的隐藏表示及下一 token 分布,可迭代生成 每个 token 的双向上下文表示,通常接任务头 擅长 开放式/条件生成、对话、摘要、…
匹配正文:BERT 与 CRF 的分工 BERT 为每个输入 token 产生上下文相关 hidden state h_i。线性层把 h_i 映射为每个标签的 emission logits/scores,不是彼此独立且已归一化的 P(y_i|x)。 线性链 CRF 再引入标签转移分数 A_{y_{i-1},y_i}。一条标签序列的总分为 emission 分数之和加 transition 分数之和: score(x,y)=sum_i emission_i(y_i)+sum_i A[y…
匹配标题与标签:文本嵌入模型怎么选? 对比 BERT、SimCSE 等 Embedding 模型在检索场景的适用性 模型微调 百度 文本嵌入模型 Embedding 模型对比 向量检索 Embedding 百度
学习内容与项目面试,在同一条路上。