匹配标题与标签：…原理怎么理解? 融合计算与 I/O 优化 Transformer 注意力,训练推理加速推理优化 Flash Attention 内存优化注意力机制 CUDA Kernel融合 IO-Aware算法 2026真题 Flash Attention 原理 Transformer 注意力优化 I/O 优化注意力机制加速系统优化与推理加速

#Flash Attention#内存优化#注意力机制

面试题·推理优化· 京东

vLLM vs TensorRT-LLM 怎么选?

匹配题目：请列举并比较主流的大语言模型推理框架（如vLLM、TensorRT-LLM、HuggingFace TGI等），从吞吐量、延迟、内存优化和支持模型类型等方面进行分析。

#vLLM#TensorRT-LLM#推理引擎

面试题·模型架构· 美团

多头注意力原理与QKV拆分陷阱

匹配标题与标签：多头注意力原理与QKV拆分陷阱 QKV拆分、并行计算与位置编码，内存优化详解模型架构多头注意力 Transformer 并行计算位置编码矩阵运算 2026真题多头注意力实现 Multi-Head Attention原理 QKV拆分内存布局优化大模型架构与原理美团

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#多头注意力

#Transformer

#并行计算

面试题·文档处理· 百度

RAG ANN 索引优化

匹配标题与标签：RAG ANN 索引优化 IVF、HNSW、PQ 等 ANN 索引的效率、召回和内存优化文档处理百度文档处理 RAG ANN 索引优化 RAG 向量索引怎么优化？IVF、HNSW 与量化 RAG 向量索引优化索引效率提升召回率优化百度

#百度#文档处理#RAG ANN 索引优化

面试题·检索· 阿里

匹配正文：… HNSW 图索引，贪心导航百万级，高召回要求 IVF 聚类分桶，减少搜索空间亿级，内存受限 PQ/OPQ 向量量化压缩极致内存优化 DiskANN 内存+磁盘混合十亿级大规模关键调参：efConstruction（建图质量）、M（邻居数）、nprobe（搜索桶数）三、查询重写（Query Rewriting）核心问题：用户原始query短、歧义、与文档表述不一致技术做法 HyDE 用LLM生成伪答案，再向量化检索 Query2Doc 生成伪文档扩展quer…

#阿里云#查询重写#RAG 召回优化

Flash Attention 原理怎么理解?

vLLM vs TensorRT-LLM 怎么选?

多头注意力原理与QKV拆分陷阱

RAG ANN 索引优化

RAG检索器与索引结构怎么选？