搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「计算复杂度」找到 8 条内容
按专题浏览 →匹配标题与标签:…RA 微调比全量微调更慢吗? 前向传播、反向传播与优化器更新的计算效率分析 推理优化 LoRA 参数高效微调 训练效率 低秩分解 计算复杂度 2026真题 LoRA 训练效率 LoRA vs 全量微调 LoRA 计算开销 系统优化与推理加速 百度
匹配正文:核心局限:Agent多轮对话的三大瓶颈 1. 计算复杂度爆炸 标准Self-Attention是O(n²)复杂度,Agent多轮对话上下文轻松破万token 每轮新输入都要与全部历史做Attention,延迟线性增长,实时性崩塌 2. KV Cache显存瓶颈 多轮对话需缓存每层的K、V矩阵,长度随轮次累积 工具调用返回的结果、RAG检索的文档进一步膨胀缓存 显存占用 = 层数 × head数 × head_dim × 序列长度 × batch_size × 2(K+V) 3…
匹配正文:核心原因:计算复杂度与系统架构的根本矛盾 1. 计算效率角度 复杂度鸿沟 召回/粗排:O(1) 哈希查找、O(log n) 向量检索、或轻量双塔模型 精排:O(n) 深度交叉特征,单次推理 10-100ms 级 候选池规模:百万/千万级,精排全量打分 → 单次请求耗时小时级,完全不可接受 算力成本 精排模型通常是大模型或深度网络,GPU显存和计算密集 全量打分成本 = 候选数 × 单次推理成本,业务无法承受 2. 系统架构角度 延迟与吞吐的权衡 阶段 延迟要求 候选规模 模型…
学习内容与项目面试,在同一条路上。