页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「context window」找到 9 条内容
按专题浏览 →匹配正文：…干)、RAG(外挂检索,按需取用) 实际系统常三者组合:近期对话留原文、久远对话滚动摘要、知识库走 RAG 核心概念 上下文窗口(Context Window)是大模型在一次推理中能够处理的最大 token 数量,包括输入的全部内容(系统提示、历史对话、文档)和模型将要输出的内容,两者共享同一个额度。比如窗口 8K 的模型,输入占了 7K,输出最多只能再生成约 1K。 为什么会有这个限制?主要三个原因:一是自注意力的计算量随序列长度平方级增长,长度翻倍计算量约翻四倍;二是位置…
匹配正文：…emory: """最朴素的对话记忆:滑动窗口保留最近几轮 + 更早的压成一句摘要。""" def __init__(self, window=2): self.window = window # 滑动窗口:上下文里只保留最近 window 轮 self.history = [] # [(用户问, 助手答), ...] self.summary = "" # 挤出窗口的旧对话,压成摘要(真实系统用 LLM 概括) def add(self, user, bot): self.…
匹配正文：…队列（如Redis Stream），而非直接RPC调用 消息格式标准化：{from, to, task_id, payload, context_window, deadline} 关键机制 机制 实现要点 任务路由 Planner根据任务类型标签（coding/research/summary）动态分发 上下文传递 通过context_window携带上游关键结论，避免全量历史 冲突解决 Verifier仲裁，多数投票或置信度加权；无法共识时升级人工 动态扩缩 Worker…
学习内容与项目面试，在同一条路上。