欢迎来到道一AGI
关于这个网站 道一AGI 是我个人的人工智能学习笔记与知识管理体系。 在这里，我会记录关于以下主题的学习心得： 大语言模型（LLM）：Transformer 架构、预训练、微调、提示工程 AI Agent：智能体设计、工具调用、多智能体协作...
精选推荐
9 篇2024 大语言模型年度综述
模型规模竞赛降温 2024 年，业界从"越大越好"转向"更聪明地训练"。小型模型通过更好的数据和训练策略开始超越更大的模型。 MoE 架构成为主流 从 Mixtral 到 GPT4（传闻），MoE 混合专家模型解析 中介绍的 MoE 架构在...
Transformer 架构详解
什么是 Transformer Transformer 是 Google 在 2017 年提出的神经网络架构，彻底改变了 NLP 领域。它完全基于注意力机制，摒弃了传统的 RNN 和 CNN 结构。 SelfAttention 机制 Sel...
大模型预训练技术概览
预训练数据 大规模预训练数据的质量直接决定模型性能。常见数据源包括 Common Crawl、Wikipedia、书籍和代码仓库。 并行训练策略 数据并行 每个 GPU 持有完整模型副本，处理不同的数据批次。 模型并行 将模型切分到多个 G...
RLHF 原理与实践
RLHF 的三阶段 第一阶段：监督微调（SFT） 收集人类标注的高质量指令回答对，在基座模型上微调。 第二阶段：训练奖励模型 让人类标注者对多个回答进行偏好排序，训练一个奖励模型来预测人类偏好。 第三阶段：PPO 强化学习 使用 PPO 算...
神经网络基础回顾
反向传播 反向传播是训练神经网络的核心算法。它通过链式法则计算损失函数对每个参数的梯度。 python def backwardloss, parameters: grads = {} grad = 1.0 for layer in rev...
用 PyTorch 实现 Transformer
项目结构 我们会实现 EncoderDecoder 结构的 Transformer，包含：Embedding、Positional Encoding、MultiHead Attention、Feed Forward 和完整的 Encoder...
AGI 离我们还有多远
乐观派 vs 保守派 OpenAI 的 Sam Altman 认为 AGI 可能在 510 年内到来。而 Yann LeCun 则认为我们离 AGI 还很远，自回归 LLM 不是通向 AGI 的正确道路。 当前 LLM 的局限性 缺乏真正的...
Prompt Engineering 完全指南
基础技巧 ZeroShot Prompting 直接提问，不提供示例。 FewShot Prompting 提供 25 个示例让模型学习模式。 ChainofThought 在 prompt 中加入"Let's think step by ...