跳到主内容
AlgoMooc
刷题
▾
学习路径
▾
看动画学
▾
求职训练营
▾
Hot100
7 天
学大模型
面试精讲
登录
开通年卡
页面加载中…
🏠
首页
📝
刷题
🎬
看动画
👤
我的
推理优化学习专题 · AlgoMooc
AlgoMooc · 学大模型
学习首页
学习路线
系统教程
项目实战
面试题库
求职与面试
搜索
学大模型
/
推理优化学习专题
推理优化学习专题
推理优化学习资料：面试题。从实际问题进入，按自己的基础选择需要的内容。
搜索大模型内容
内容类型
所有类型
面试题
系统教程
项目实战
求职指南
面经
学习路线
搜索
共 27 条内容
按专题浏览 →
当前分类：专题：推理优化
清除分类条件
面试题
·
推理优化
Flash Attention 原理怎么理解?
#Flash Attention
#内存优化
#注意力机制
面试题
·
推理优化
· 百度
模型优化方法有哪些？
#模型量化
#KV Cache优化
#分布式训练
面试题
·
推理优化
· 京东
vLLM vs TensorRT-LLM 怎么选?
#vLLM
#TensorRT-LLM
#推理引擎
面试题
·
评估
· 百度
LLM 准确性提升四大路径
#数据质量
#训练策略
#推理优化
第 1 / 2 页
下一页 →
学习内容与项目面试，在同一条路上。
站内 RAG 在线实战
面试题
·
推理优化
· 京东
LLM 推理框架综合选型
#vLLM
#TensorRT-LLM
#llama.cpp
面试题
·
推理优化
· 百度
13B模型INT8/INT4量化后多大?
#模型量化
#INT8/INT4
#显存优化
面试题
·
推理优化
· 京东
推理框架硬件支持对比
#vLLM
#TensorRT-LLM
#llama.cpp
面试题
·
推理优化
· 字节
FAISS 怎么实现高效 ANN 搜索?
#向量检索
#近似最近邻搜索
#量化压缩
面试题
·
推理优化
· 得物
超长上下文怎么处理?
#长上下文
#位置编码
#稀疏注意力
面试题
·
推理优化
· 阿里
PyTorch 计算图怎么支持自动微分?
#自动微分
#计算图
#动态图
面试题
·
推理优化
· 美团
MoE 怎么增强 Agent 能力?
#MoE架构
#Agent系统设计
#任务路由
面试题
·
推理优化
· 美团
可视化怎么诊断训练问题?
#训练可视化
#过拟合诊断
#梯度消失/爆炸
面试题
·
项目与经历
· 商汤科技
大模型项目缺陷修复
#过拟合
#推理优化
#输出稳定性
面试题
·
推理优化
· 字节
数据分层为何不用大模型?
#数据质量评估
#模型规模权衡
#成本效益分析
面试题
·
推理优化
· 快手
视频切帧怎么平衡效率与信息?
#视频预处理
#关键帧提取
#运动检测
面试题
·
推理优化
· 商汤科技
工程化核心目标是什么?
#大模型工程化
#系统架构设计
#推理优化
面试题
·
推理优化
· 美团
VecEnv 怎么加速强化学习训练?
#VecEnv
#环境并行化
#Stable-Baselines3
面试题
·
推理优化
· 海尔
显存优化技术原理与对比
#显存优化
#梯度检查点
#模型并行
面试题
·
推理优化
· 字节
KV-Cache 空间复杂度怎么算?
#KV-Cache
#显存优化
#自回归生成
面试题
·
推理优化
· 京东
DeepSpeed 核心特性与架构怎么用?
#DeepSpeed
#分布式训练
#ZeRO优化器
面试题
·
模型架构
· 京东
MLA 与 KV Cache 怎么用?
#MLA
#KV Cache
#注意力机制
面试题
·
推理优化
· 字节
ZeRO 与 FlashAttention 各优化什么?
#注意力优化
#ZeRO
#Flash Attention
面试题
·
推理优化
· 百度
视频生成加速有哪些方法?
#视频生成
#扩散模型加速
#时序建模优化
面试题
·
推理优化
· 百度
LoRA 微调比全量微调更慢吗？
#LoRA
#参数高效微调
#训练效率