搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「延迟」找到 588 条内容
按专题浏览 →匹配正文:答案要点 工具分层/分类架构设计 基于语义的工具检索机制 工具描述优化与向量化 延迟优化策略(预加载、缓存、并行) 工具学习/自动化工具发现 核心挑战分析 工具选择困难:LLM上下文窗口有限,无法一次性加载所有工具描述;相似工具难以区分 调度复杂:工具间存在依赖、互斥、资源竞争;执行顺序影响结果 响应延迟:工具检索+LLM决策+实际调用链路长 解决方案 1. 层次化工具架构 工具分类层:按领域/功能预分类(如"数据库类""搜索类"),先选类别再选具体工具 元工具(Meta-t…
匹配正文:…k):首个相关文档排名的倒数均值,反映排序质量 NDCG@k:考虑位置衰减的加权得分,适合有明确相关性等级的场景 效率指标 P99延迟:向量检索需关注HNSW索引构建与查询耗时 QPS/内存:BGE-M3需embedding服务和向量存储,BM25轻量 权重考量与决策框架 业务场景驱动(以抖音为例): 场景 策略 理由 短视频标题搜索 BM25为主 + 向量重排 标题短、关键词明确,BM25召回快 视频内容理解/问答 BGE-M3为主 需理解画面描述、口语化表达 直播实时弹幕…
匹配正文:…符、输入 schema 不兼容、配额不足、健康状态异常,以及当前任务不允许的副作用。安全、合规、目录有效和用户确认是门槛,不能被低延迟或低成本抵消。 工具注册信息至少包含版本、能力、输入输出 schema、资源范围、副作用级别、幂等语义、超时/取消、费用口径、数据新鲜度和已知限制。 2. 条件化估计而非简单倒数 对剩余候选,按任务类型和上下文估计成功质量、延迟分布、成本、数据时效与故障概率。1/Cost、1/Latency 在接近零时会失真,各指标单位也不同;应归一化或用约束…
按学习路线查看教程、项目和面试题。