页面加载中…
搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「矩阵运算」找到 3 条内容
按专题浏览 →匹配标题与标签:…与QKV拆分陷阱 QKV拆分、并行计算与位置编码,内存优化详解 模型架构 多头注意力 Transformer 并行计算 位置编码 矩阵运算 2026真题 多头注意力实现 Multi-Head Attention原理 QKV拆分 内存布局优化 大模型架构与原理 美团
匹配正文:…弦相似度: \text{sim}(A,B) = \frac{A \cdot B}{\|A\|\|B\|} 归一化后简化为点积,可用矩阵运算批量加速 检索优化: 精确检索:暴力计算,适合万级数据 ANN近似检索: HNSW:图索引,高召回、低延迟,适合在线服务 IVF-FLAT:聚类分桶,平衡速度与精度 量化压缩(PQ/SQ):降低内存,适合十亿级向量 工程实践:先ANN粗排取Top-K,再用Cross-Encoder精排,最后按相关性阈值过滤
匹配正文:…时依赖Faiss/Milvus等ANN库,单次检索毫秒级;但训练时需维护大规模索引,索引更新有延迟 Soft Search:训练时矩阵运算可GPU并行,但候选集规模受限于显存(通常截断到数千);推理时若保留全量候选,计算量爆炸 2. 召回质量 Hard Search:存在检索误差——ANN的近似性可能漏掉真正相关的item,且Top-K截断导致梯度只更新局部 Soft Search:理论上全局最优,但长尾候选梯度极小,实际等效于被忽略;容易过度拟合高频item 3. 训练稳定…
学习内容与项目面试,在同一条路上。