乐观派 vs 保守派

OpenAI 的 Sam Altman 认为 AGI 可能在 5-10 年内到来。而 Yann LeCun 则认为我们离 AGI 还很远，自回归 LLM 不是通向 AGI 的正确道路。

当前 LLM 的局限性

  • 缺乏真正的推理能力
  • 无法进行长期规划
  • 缺少世界模型
  • 幻觉问题

我的判断

AGI 可能还需要 10-20 年。在此之前，我们需要解决 AI 对齐问题的哲学思考 中讨论的安全性问题。