页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「Autoregressive」找到 2 条内容
按专题浏览 →匹配题目：…le Diffusion之外，你还了解哪些主流的生成式模型？请列举并简要说明它们的技术路线（如GAN、VAE、Diffusion、Autoregressive等）及其典型应用场景。
匹配正文：…攒成大批一起算,单个请求的延迟就上去了。工程的艺术就在这个权衡里。 概念:LLM 推理为什么天生慢且贵 LLM 生成是**自回归(autoregressive)**的:一次只能生成一个 token,生成下一个时要把前面所有 token 再「看」一遍。这带来两个硬伤: 为什么慢且贵:自回归一次一个 token + 显存带宽瓶颈 没法并行生成:一句 100 字的回答,就得串行跑 100 次前向。 显存带宽是瓶颈:每生成一个 token,都要把巨大的模型权重从显存搬一遍,瓶颈不在算…
学习内容与项目面试，在同一条路上。