页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「延迟」找到 588 条内容
按专题浏览 →匹配正文：…融合、sequence parallel属于kernel与并行层。 服务系统：批处理、offload、分块解码和多卡流水要用端到端延迟、吞吐、峰值显存与通信占比评估。 KV cache只在架构存在可安全复用的K/V时成立，不是视频时序建模的通用替代。任何“某模型用了MoE/滑窗/因果attention”的说法都要绑定准确版本和论文；若公开材料不支持，就不作断言。
匹配正文：…s-encoder或LLM对小候选集重排、解释或抽取特征。通常不应先用昂贵LLM粗排全库、再用廉价模型精排；除非有明确缓存、规模和延迟证据。 小样本迁移：冻结大部分基座，使用adapter、LoRA、多任务或对比学习；防止把用户ID等无语义稀疏特征硬转成文本。 联合评测：离线看Recall、NDCG、校准与分桶公平性，线上看延迟、成本和业务目标；严格按时间切分，防止未来行为泄漏。 任何“某公司采用某方案”的说法都要有公开出处，否则只描述可验证的架构选择。
匹配正文：… 到 4 步生成。官方模型卡建议 512×512；更高分辨率可以尝试但质量可能下降，而且模型卡明确说明不能稳定生成可读文字。显存、延迟和吞吐必须绑定 checkpoint、精度、分辨率、采样步数、batch 与硬件实测，不存在通用的 24GB 门槛。
按学习路线查看教程、项目和面试题。