搭建个人 RAG 知识库
项目目标 将个人笔记和 PDF 文档转化为可交互的知识库，让 AI 能回答关于你学习内容的问题。 RAG 流程图./personalragkb/diagram.svg 第一步：文档处理 python from langchain.docum...
技术实践
8 篇构建 AI Agent 工作流
ReAct 模式 ReAct 将推理 Reasoning 和行动 Acting 结合起来，让 Agent 在思考和执行之间交替进行。 Agent 执行循环./agentworkflow/diagram.svg 实现步骤 定义工具集 pyth...
RAG 生产落地避坑指南
切片策略 固定大小的切片在遇到表格和代码块时会把语义切断。更好的做法是按文档结构（标题、段落）动态切片。 检索质量 TopK 检索返回的文档可能不相关。使用重排序模型可以将准确率提升 1530%。 成本控制 每次查询都调用 Embeddin...
用 PyTorch 实现 Transformer
项目结构 我们会实现 EncoderDecoder 结构的 Transformer，包含：Embedding、Positional Encoding、MultiHead Attention、Feed Forward 和完整的 Encoder...
LangChain 实战：构建 RAG 应用
RAG 架构概述 RAG 结合了检索和生成两大能力：先将文档存入向量数据库，用户提问时检索相关文档，再交由 LLM 生成答案。 搭建步骤 python from langchain.document_loaders import TextL...
LoRA 微调实战
LoRA 原理 LoRA 在原始权重旁添加低秩矩阵 $A$ 和 $B$，只训练这些小矩阵： $$ W' = W + \alpha \cdot AB $$ 其中 $A \in \mathbb{R}^{d \times r}$, $B \in ...
vLLM 部署指南
vLLM 简介 vLLM 是 UC Berkeley 开源的 LLM 推理框架，通过 PagedAttention 技术实现接近零浪费的 KV 缓存管理。 快速开始 bash pip install vllm vllm serve meta...
Agent 框架对比：AutoGPT vs MetaGPT
AutoGPT AutoGPT 将任务分解为子目标，通过循环调用 LLM 来逐步执行。特点是自主性强，但容易出现循环和跑偏。 MetaGPT MetaGPT 借鉴软件公司的组织架构，让多个 Agent 扮演不同角色（PM、架构师、工程师）协...