2024 大语言模型年度综述
模型规模竞赛降温 2024 年,业界从"越大越好"转向"更聪明地训练"。小型模型通过更好的数据和训练策略开始超越更大的模型。 MoE 架构成为主流 从 Mixtral 到 GPT4(传闻),MoE 混合专家模型解析 中介绍的 MoE 架构在...
模型规模竞赛降温 2024 年,业界从"越大越好"转向"更聪明地训练"。小型模型通过更好的数据和训练策略开始超越更大的模型。 MoE 架构成为主流 从 Mixtral 到 GPT4(传闻),MoE 混合专家模型解析 中介绍的 MoE 架构在...
协作模式分类 顺序模式 Agent 按顺序执行任务,每个 Agent 的输出是下一个 Agent 的输入。适合线性工作流。 并行模式 多个 Agent 同时处理不同子任务,最后汇总结果。适合可分解的复杂任务。 辩论模式 两个 Agent 分...
RAG 的发展历程 从 2020 年 Lewis 等人首次提出 RAG,到 2024 年成为企业 LLM 应用的标配架构。 核心组件 索引阶段 文档加载 → 文本分割 → 向量化 → 存储 检索阶段 查询向量化 → 相似度搜索 → TopK...
从单模态到多模态 人类通过视觉、听觉、触觉多个通道感知世界。多模态大模型试图让 AI 也具备这种能力。 代表性模型 GPT4V / GPT4o OpenAI 的原生多模态模型,支持图像理解、OCR、图表分析。 LLaVA 开源社区的代表作,...
Agent 的核心能力 一个完整的 AI Agent 需要具备四大能力: 1. 感知:理解环境和用户输入 2. 规划:将复杂任务分解为子任务 3. 记忆:短期和长期记忆管理 4. 行动:调用工具执行任务 主流框架 如 Agent 框架对比:...
年度高光 2025 年是 AI Agent 从概念验证走向生产落地的一年。 Agent 执行循环模型./agenttechreport2025/diagram.svg 关键趋势 从单体到多体 单一 Agent 已不能满足复杂场景需求。多 A...