2009年预测AGI在2028年的Shane Legg，把时间表和理由都摆了出来

2009年，深度学习还没在ImageNet上证明自己，那要等到2012年。「AGI」在学术界是个边缘词，公开谈它有被当成民科的风险。就在这一年，Shane Legg在博客里写下预测：人类水平的AI，最可能出现的年份是2025年，期望值是2028年。

15年过去，这位DeepMind联合创始人、谷歌DeepMind首席AGI科学家，在Dwarkesh Patel的播客里把数字又报了一遍：五成概率，2028年之前实现AGI。他还补了一句，2029年要是没实现，肯定有人跑来笑话他，可他说的本来就是五成。

这期访谈后来被Nathan Labenz的「Cognitive Revolution」节目作为节日特辑转发。Dwarkesh这位主持人，过去一年访谈过Ilya Sutskever、Dario Amodei、Eliezer Yudkowsky一串圈内重量级人物，以用大白话问最根本的问题著称。Labenz选这期的理由很直接：这是你能听到的对AI前景最坦率的评估之一，而说话的人，恰好既在二十多年前就预言了今天，又亲手参与做出了AlphaGo、AlphaFold这一串突破。

Legg的判断起点在2001年。他读了雷·库兹韦尔的《灵魂机器的时代》，从此开始按年份琢磨AGI。到今天，这件事他想了二十多年，比绝大多数从业者的工龄都长。

怎么判断AGI到了？靠一整套「找茬」测试

先说定义。Legg口中的AGI，指一台机器能完成普通人能完成的认知任务，可能还会更多。门槛的参照物是普通人，不是天才。

麻烦在于，通用这个词没法用单一指标衡量。测单一能力容易，围绕它出题就行；测「什么都会」，就得铺开一张大网。MMLU这类基准能测语言能力，测不到的东西一大把。Legg点名了两样：理解流式视频，以及情景记忆。

情景记忆值得展开。人脑有三层存储：工作记忆，处理刚刚发生的事；皮层记忆，存着慢慢养成的长期知识；中间还有一层海马体，负责把具体信息飞快存下来。今天访谈里听到的内容，你明天还记得，靠的就是这一层。

现在的模型只有两头。打个比方：权重像一个人的性格，几年才养成一点；上下文窗口像你手里正捏着的便签，放下就忘。缺的正是中间那层，「今天刚认识的人，明天还记得名字」的本事。严格说，模型有一种快速学习：上下文里的内容会立刻改变它的行为。但Legg强调，学习的种类有很多，现有系统只占了一部分。业界的应对办法是把上下文窗口越拉越长，这更像让工作记忆硬顶情景记忆的活。

那怎么才算过关？他的判据分两步。第一步，建一整套覆盖人类认知广度的测试，模型全部达到人类水平。第二步，请人来对抗性找茬，专门设计「普通人明显会、机器不行」的任务。找茬的人用尽全力也找不到这样的例子，实用意义上，AGI就算到了。他不追求哲学上的完备，只认工程上的可判定。

缺的东西能补吗：没有墙，但光堆算力不够

Dwarkesh追问得很尖锐：模型要吃几万亿token，才能学会人类一辈子都接触不到的信息量，样本效率差了几个数量级，这算深度学习的致命伤吗？

Legg的回答很干脆。根本性的变化已经发生：人类第一次造出了有某种程度「理解」的模型，而且找到了可扩展的实现方式。这在过去不存在，如今解锁了大量新空间。剩下的短板，幻觉、事实性、记忆类型、视频理解，都有相对清晰的路径。

「我看不到面前有大墙。只是还需要更多研究和工作，这些问题大概率会被妥善解决。」

但「有路径」和「继续堆规模」是两回事。Legg明确说，解法多半是架构性的。大脑把「快速记住具体事」和「慢慢学出深层规律」分成两套系统，因为这两个优化目标互相打架，硬捏在一起谁都做不好。完整的智能两样都要：既要在听到名字后第二天还记得，也要能用一辈子的经验看出世界的深层模式。未来的模型，很可能需要为快速学习单独设计一套机制。

顺带一个冷知识：AlphaFold这类成果，Legg自己说不认为在通往AGI的路径上。DeepMind有几百号博士，同时在做核聚变、天气预报、森林砍伐监测。这些项目可能带来有用的启发，但那是另一条线。

Labenz在转发时补了一个细节：这期节目播出几周后，DeepMind发表了Block State Transformers论文，属于状态空间模型这条新架构路线。Legg说「有清晰路径」的时候，听起来不太像猜测，更像在陈述自家实验室的进度。

创造力是搜出来的，模型现在只会模仿

这期访谈里最有历史趣味的一段，是Dwarkesh翻出了Legg的2008年博士论文。论文里有个近乎旁注的设想：测智能可以看压缩，让系统填一段文本的空缺。语言模型的训练，干的正是这件事。Legg承认，实际发生的一切和论文里的思路高度一致。

背后的理论源头，是他的博士导师Marcus Hutter的AIXI框架：以所罗门诺夫归纳为基础的理想预测器，理论上不可计算，但极其优雅、样本效率极高。这个框架给出的启示是：只要拥有一个好到离谱的序列预测器，通往强大通用AI就只剩一步，加上搜索和强化信号。今天的基础模型正是极好的序列预测器，在用全部数据压缩这个世界。

但预测只解决了半边。理查德·萨顿在《苦涩的教训》里说，真正能规模化的是学习和搜索。Legg认为基础模型已经是某种世界模型，可要做出真正有创造性的解题，必须开始搜索。

他的例子是AlphaGo那手著名的第37手。李世石之战第二局，AlphaGo落下一手人类棋手看不懂的肩冲。这手棋学自哪份人类棋谱？哪份都学不来。Legg的拆解：系统先识别出一手出现概率很低但可行的棋，再通过搜索确认它其实极佳。

创造力就是在可能性的空间里搜出隐藏的宝石。现在的语言模型做的是模仿，它们会混搭，比如用Kanye West的说唱风格写哈利·波特的故事。这算新颖，可素材全部来自人类。混搭和创造之间，隔着一次真正的搜索。

「在系统里加入强大的搜索之前，我们不会看到真正走出训练数据的模型。」

问到DeepMind自己的训练有没有加入这些，Legg守口如瓶，只说大致在做和业内类似的扩展与训练，有自己的路数和技巧。这个回答本身也是信息：如果只是继续堆算力，没什么可保密的。

越强的模型，越好对齐

对齐部分的讨论，可能是全期对安全从业者最有分量的内容。Legg的出发点：对真正强大的系统，围堵和限制大概率赢不了，唯一的路是从第一天起把它造得合乎伦理。

他的方法论来自人类自己。面对艰难的伦理决定，成熟的人不会脱口而出，会坐下来列选项，用对世界的理解推演每个选项的后果，再用伦理标准逐一衡量，最后执行。用卡尼曼的话说，别让系统1接管，要启动系统2。

现在从基础模型直接采样，就是脱口而出的系统1。RLHF、RLAIF和宪法AI这类方法，本质是在修补系统1，调整输出的分布。有帮助，但在一个超高维的分布上戳几个点，谈不上稳健。Legg打的比方是靠意志力戒坏习惯：能改一点，压力一大容易反弹。

他想要的是系统2：模型面对问题先推理，列出选项，用好世界模型预测后果，再做伦理分析，选出并执行最合乎伦理的那个。这要求四样东西：对世界的深刻理解、对人的理解、对伦理的理解、可靠到可以托付的推理。

这里藏着全期最反直觉的论点：一个深刻合乎伦理的AI系统，必须同时非常强大。伦理判断需要世界模型，需要推理，需要理解人，这些恰恰是能力。能力上去了，对齐的难点会跟着减轻。Labenz在开场专门点了这一条，说他真心希望Legg是对的。

剩下的难点，是往系统里灌什么价值观。Legg把问题拆成两半。技术的一半，是让模型把人类伦理理解到一流伦理学家的水平，论文、书籍、课程都在那里，可以训练。选择的一半，由社会和伦理学家决定模型该奉行哪套伦理。他不认为存在唯一正确的伦理体系，但确信能选出一套远好于末日论者所担心的行为的标准。

手段上，他对强化学习留了个心眼：奖励「看起来合规」的行为，可能顺带训练出欺骗。更稳健的做法是审查推理过程，反复拷问模型的伦理理解，部署之后持续检查每个决策背后的推理链。他提到DeepMind内部由Geoffrey Irving主导的审议式对话研究：让系统就「该采取什么行动」展开辩论，人来审查，再用AI辅助裁判，以此把对齐扩展到越来越强的系统。

至于给能力设阈值、到某个点必须装上哪些安全基准，Legg认为方向合理。Anthropic发布过类似框架，DeepMind也在琢磨。他把难处说得很实在：把安全要求写成具体的硬指标，比听起来难得多。

这套话他讲得有底气，因为讲了快二十年。2013年前后，DeepMind才招到第一位投入安全研究的员工，对方起初还只肯兼职，怕断了能力研究的职业前途。Legg说，DeepMind是第一家AGI公司，一直设有安全团队，发了多年论文，让「AGI」这个当年的边缘词有了正当性。他也是2023年那份「AI灭绝风险应成为全球优先事项」声明的签署人，和Anthropic的Dario Amodei从2005年就认识，断断续续聊了快二十年。

要问DeepMind到底加速能力多，还是加速安全多，他的回答很诚实：加速能力了。但反事实难算，ImageNet不是DeepMind做的，好想法往往「在空气中」，时间到了总会冒出来。

为什么是2028：一道正反馈算术题

回到时间表。Legg的推理从2001年那本书开始，两根支柱：算力会指数增长至少几十年，世界的数据量也会指数增长几十年。

两根柱子一起长，可扩展算法的价值就一路飙升，因为只有能吃下海量算力和数据的算法，才配得上这些资源。于是出现正反馈：算法越好，算力和数据越值钱，投入越大，算法又更强，雪球越滚越大。深度学习正是那个被正反馈选中的可扩展算法。

第二条推理线更具体：照趋势推算，2020年代会出现训练数据量超过一个人一生信息摄入量的模型。Legg判断，大事件从那里开始。他的原话是，现在正处在第一个解锁点上，模型吃的token已经超过人类一生的经验总量。

所以，五成概率，2028年。被问到从现在到2028之间会发生什么，他描绘的图景意外地朴素：现有模型逐步成熟，幻觉更少，事实性更强，知识更新，多模态程度大幅提高，然后是海量的优秀应用，当然也免不了滥用案例。要是2029年AGI还没到，会是什么挡住了？他自己也答不上来，只说目前的判断是，所有问题都能靠几年的研究解决。

下一个里程碑，他押全面多模态。Dwarkesh提到ChatGPT刚上线多模态功能，还有DeepMind那个能同时处理图像、文字甚至游戏操作的Gato模型，反响都算不上爆炸。Legg的回应是，过渡期刚开始。等系统真正大量消化视频，对世界的理解才会「扎根」，回头看今天只会打字聊天的模型，会觉得那是个很窄的年代。新数据、新应用会涌出来，很多现在根本想象不到。

明天就能用上的三件事

第一，重测你划掉的清单。按Legg的判断，未来几年的主线剧情是模型变可靠：幻觉减少、事实性增强、多模态成熟。那些因为「AI爱胡说」被你排除的场景，资料核对、客服问答、行业检索，值得每个季度拿最新模型重跑一遍。上个季度不行的，这个季度可能就够了。

第二，换掉你的观察指标。判断AI走到哪了，别只盯跑分。Legg给的清单更有用：看视频理解有没有打通，看模型能不能快速记住新信息，看它是不是开始先想后答。带搜索和长推理的模型一旦出现，就是「超越训练数据」的信号，那才是真正的分水岭。

第三，盘点你的视频资产。多模态是Legg认定的下一个大浪，视频是最大的新数据源。现在就可以想想：你手里有哪些视频、图像、语音材料，等模型能真正看懂它们，你的工作流里哪些环节会被改写。

Legg从2001年想到现在，二十多年只做一件事：把AGI从科幻话题变成可以定年份、定测试、定工程路径的问题。他的五成你可以不信，但他这套观察框架，比「AI马上毁灭世界」和「AI只是聊天机器人」两种噪声都好用。明天打开最新的模型，扔给它一段视频和一个它没见过的问题，你自己摸一摸进度条。