本文目录
一句话:RAG 听起来高大上,核心其实就三步——检索相关资料 → 拼进 prompt → 让模型照着答。把这三步亲手跑通,你就懂了"开卷考试"的本质;想做深,站内有完整 RAG 教程接住。
为什么需要 RAG(一句话回顾)
仅靠模型参数不能可靠覆盖最新或私有知识,生成答案也可能出错。RAG 就是在提问前,先去外部知识库捞出相关资料,塞进上下文,让模型"照着资料答"——把闭卷考试变成开卷考试。
三步拆解
用户问题
↓ ① 检索:把问题和知识库都变成向量,找最相似的几段
相关片段
↓ ② 增强:把片段拼进 prompt("根据以下资料回答…")
拼好的 prompt
↓ ③ 生成:让 LLM 基于资料作答
带依据的回答最小实现(可跑,不依赖向量库)
知识库使用几段演示文本,向量化与聊天分别连接支持相应能力的服务。不能因为一个服务兼容 Chat Completions,就假设它也提供 OpenAI 的 embedding 模型。
先完成第 2 篇的虚拟环境与聊天凭据准备,再安装 numpy,并准备 OpenAI embedding 端点对应的 key:
python -m pip install numpy
export OPENAI_API_KEY="替换为支持该embedding模型的OpenAI API key"