从闭卷到开卷

传统的 LLM 像一个闭卷考试——只能依赖训练时记住的知识。RAG 给了模型”开卷”的能力，让它能在回答时查阅外部文档。

RAG 流程示意图

架构设计的启示

分离关注点

RAG 的精妙之处在于将知识存储和语言生成解耦：

  • 知识存储 → 向量数据库（可独立更新）
  • 语言生成 → LLM（专注于理解和表达）

这种分离带来了几个关键优势：

  • 知识可以实时更新，无需重新训练模型
  • 幻觉问题得到缓解——答案有据可查
  • 隐私数据可以留在本地，不上传到模型提供商

模块化思维

RAG 设计哲学正在影响整个 AI 架构：

与其让一个巨大的模型做所有事情，不如将不同能力分配给不同模块。

这与 RAG 技术综述 中讨论的技术演进方向一致。实践方面可参考 搭建个人 RAG 知识库。