页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「推理引擎」找到 12 条内容
按专题浏览 →匹配标题与标签：模型优化方法有哪些？ 从训练、推理到部署，系统性提升大模型性能 推理优化 模型量化 KV Cache优化 分布式训练 推理引擎 模型压缩 2026真题 大模型优化方法 模型训练优化 推理加速 部署优化 系统优化与推理加速 百度
匹配标题与标签：… vs TensorRT-LLM 怎么选? 主流推理框架吞吐量、延迟、内存优化对比 推理优化 vLLM TensorRT-LLM 推理引擎 吞吐量优化 生产部署 2026真题 vLLM vs TensorRT-LLM 大模型推理框架对比 推理框架吞吐量 LLM 推理优化 系统优化与推理加速 京东
匹配正文：…的权衡 能提及容错与动态扩展等工程考量 多Agent系统的基本结构 核心组件四层结构： Agent本体层：每个Agent包含LLM推理引擎、工具集（Tools）、记忆模块（短期/长期）、角色定义（Persona） 通信层：消息总线（Message Bus）或点对点通道，支持同步/异步通信，常见模式：直接对话、广播、黑板机制 协调层：任务分解器、调度器、冲突仲裁器——决定"谁做什么、何时做" 环境接口层：共享状态存储、外部API接入、人机协作界面 典型协作拓扑： 星型（Orch…
学习内容与项目面试，在同一条路上。