页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「稀疏注意力」找到 9 条内容
按专题浏览 →匹配标题与标签：超长上下文怎么处理? 位置编码改进、分块策略与注意力优化三大手段 推理优化 长上下文 位置编码 稀疏注意力 KV缓存优化 上下文外推 2026真题 长上下文处理 位置编码改进 注意力优化 分块策略 系统优化与推理加速 得物
匹配正文：…PagedAttention：按块管理缓存，主要减少动态请求的内存碎片并提高可调度性，不改变单条请求所需逻辑KV数量。 滑动窗口/稀疏注意力：给缓存设上限，但会改变可见上下文。 前缀共享与offload：分别减少重复前缀副本、以传输带宽换显存。 O(L/k)在固定k下仍是O(L)；上述手段多是降低常数、碎片或可见窗口，不能随意宣称改变大O。 图解 KV-Cache 空间复杂度怎么算?图解
匹配正文：…向量化存入HNSW索引，按需检索Top-10 三、上下文管理优化 KV Cache复用：对固定历史前缀预计算并缓存，避免重复编码 稀疏注意力：Longformer/BigBird模式，降低O(n^2)复杂度 分页调度：vLLM的PagedAttention思想，动态分配显存 四、小红书场景的特殊考量 多模态行为：图文/视频浏览需统一embedding空间 实时性：新发布笔记需在分钟级进入用户记忆 负信号：曝光未点击同样重要，需设计负样本选择策略 最终方案往往是混合架构：短期用…
学习内容与项目面试，在同一条路上。