2024 大语言模型年度综述
模型规模竞赛降温 2024 年,业界从"越大越好"转向"更聪明地训练"。小型模型通过更好的数据和训练策略开始超越更大的模型。 MoE 架构成为主流 从 Mixtral 到 GPT4(传闻),MoE 混合专家模型解析 中介绍的 MoE 架构在...
模型规模竞赛降温 2024 年,业界从"越大越好"转向"更聪明地训练"。小型模型通过更好的数据和训练策略开始超越更大的模型。 MoE 架构成为主流 从 Mixtral 到 GPT4(传闻),MoE 混合专家模型解析 中介绍的 MoE 架构在...
乐观派 vs 保守派 OpenAI 的 Sam Altman 认为 AGI 可能在 510 年内到来。而 Yann LeCun 则认为我们离 AGI 还很远,自回归 LLM 不是通向 AGI 的正确道路。 当前 LLM 的局限性 缺乏真正的...
年度高光 2025 年是 AI Agent 从概念验证走向生产落地的一年。 Agent 执行循环模型./agenttechreport2025/diagram.svg 关键趋势 从单体到多体 单一 Agent 已不能满足复杂场景需求。多 A...