GPT-5 被骂「没进步」的夏天，AI 解决了陶哲轩的开放问题

2025 年 8 月 GPT-5 上线那天，OpenAI 官方账号发了一张死星图。几个月后 Sam Altman 半开玩笑地澄清：「你们才是死星，我不是。」这个梗概括了整个发布周期：期待被拉到太空，体验掉进地沟。大量用户第一次打开 GPT-5，得到的回答比几个月前的 o3 还差。

Cal Newport 抓住这个窗口，在《纽约客》写了一篇文章，标题态度很明确：大语言模型的进展停滞了。他在 Lost Debates 播客里进一步展开，说自己观察学生用 AI 的方式，发现他们在「认知卸载」，把脑力活外包出去，人变懒，能力退化。

Nathan Labenz 是 Cognitive Revolution 播客的主持人，也是 AI 投资人。他最近被 a16z Podcast 的 Erik Torenberg 请去聊这个话题。两人的分歧点非常清楚：Nathan 在很多地方同意 Cal 对学生习惯的担忧，但他说把这等同于「AI 能力停滞」是一次逻辑跳跃。

「这是个奇怪的转向，」Nathan 说，「从『今天有一堆问题，也许大方向上也有问题』，直接跳到『别担心，它在平飞，不会再往前走了』。」

这是整场对话的核心论点：影响的善恶和能力的涨跌是两个问题，可以分开判断。而 Nathan 认为，后一个问题的答案，在过去一年里异常清晰。

先怪一下命名

Nathan 认为，这场「停滞」讨论里相当一部分混乱，来自 OpenAI 的命名决策。这一点他连反驳都懒得反驳，所有人同意。

从 GPT-4 到 GPT-5 之间，OpenAI 发了 o1、o3、o4-mini、GPT-4.5、GPT-4o 和 4o-mini，再加上一堆带日期的版本。普通用户面对一排模型名，根本不知道该点哪个。结果就是，人们拿来和 GPT-5 对比的「上一个版本」，往往是几个月前刚出的 o3，而不是 2023 年那个震惊世界的 GPT-4。

「如果你回头比较 GPT-3 到 GPT-4 的跳跃，我认为 GPT-4 到 GPT-5 的跨度是类似的，」Nathan 说，「只是很难打一个分。」

有一个数字可以量化。OpenAI 有个基准叫 SimpleQA，测的是超长尾事实问答，考的是「你知不知道这个冷门知识」，几乎不涉及推理。o3 那代模型在这个基准上大约 50%。GPT-4.5 直接跳到 65%。换句话说，在上一代模型不知道的问题里，GPT-4.5 学会了其中三分之一。

Nathan 的类比很具体：「让普通人去做 SimpleQA，大概率接近零分。你去 trivia night，一晚上能答对一题就不错了。」

很多人会问，那 GPT-5 为什么没继续涨？答案是 GPT-5 不是 GPT-4.5 的放大版。它没有吸收更多世界知识，SimpleQA 分数和 o3 基本持平。GPT-5 的进步在另一个方向：后训练和推理范式。

这引出了理解这场争论最关键的区分：规模定律和推理范式，是两条不同的爬坡路。GPT-4.5 证明继续放大模型仍然有效，只是太贵，运行成本比 GPT-5 高一个数量级以上，OpenAI 选择把它下线。他们在两条坡上同时推进，只是近期后训练的斜率更陡。

具体的跃迁，很难被「没有进步」四个字盖住

Nathan 列了一串他认为是「定性变化」的能力，这些是 GPT-4 做不到的：

第一，上下文窗口。GPT-4 公开版是 8000 token，大约 15 页文本，塞两篇论文就爆。当时的 prompt engineering 之所以成为一门手艺，很大程度上是因为你必须在极小的信息窗口里精打细算。现在的模型能吞下几十篇论文，并且在长上下文里保持高保真推理。Nathan 说，这在一定程度上替代了「把事实背进参数」的路线：一个更小但长上下文能力强的模型，加上你提供的资料，能访问同样的知识。

第二，实时语音。GPT-4 时代没有真正的语音交互，现在语音模式已经进入日常使用。

第三，推理与数学。2025 年，多家公司的纯推理模型在没有任何工具辅助的情况下拿到了 IMO 金牌。GPT-4 刚出来时，高中数学题都费劲。Frontier Math 基准上，一年前大约 2%，现在到 25%。Nathan 还提到一个刚发生的例子：有人用模型解决了一个陶哲轩提出的公开难题，人类顶尖数学家花了 18 个月才有进展，模型跑了几周到几天。

第四，科学发现。Google 的 AI co-scientist 把科学方法拆成假设生成、假设评估、实验设计、文献综述几个步骤，为每一步优化提示词，然后把一个真正未解的病毒学问题丢进去。模型提出了一个假设，同期科学家在实验室里验证出了同样的答案，只是还没发表。Nathan 强调这件事的性质：GPT-4 从来没有推动过人类知识的前沿。

第五，视觉与工具使用。Google 的 Nano Banana 已经能做 Photoshop 级别的图像编辑：把两个人的照片放进去，指定同一个场景、同一个背景，生成一张带文字的 YouTube 缩略图。这背后是语言和图像在同一个模型里的深度整合。

Nathan 没有回避模型的笨拙。他到现在还在用一个井字棋测试：拍一张棋盘照片，其中一方走了一步臭棋，问模型另一方能不能强制获胜。直到最近一两代模型，才开始有人答对。能力前沿是锯齿状的，尴尬的失败仍然常见，这不矛盾。

GPT-5 到底为什么翻车

发布事故的技术细节值得单独讲，因为它解释了大部分负面观感。

OpenAI 想简化产品体验。过去用户面对一堆模型，不知道该选哪个。理想方案是让模型自己决定思考多久，难的问题多想，简单的问题少想，甚至动态跳过一些层。Nathan 推测，这个后端合并比预期难，OpenAI 最后用了一个 router：判断查询难度，简单就发给不思考的模型，难就发给思考模型。

问题是发布时 router 坏了。所有查询都进了不思考的模型。大量用户第一次用 GPT-5，拿到的是不带思考链的回答，体验比 o3 还差。这个第一印象传播得极快，等修好之后，舆论的基调已经定了。

现在的共识在慢慢回摆。Nathan 引用 Metr 的任务时长图表：GPT-5 能处理超过两小时的任务，仍然在趋势线之上。如果你相信那张半对数图上的直线，这个数据点没有让你改变信念的理由。

Zvi Mowshowitz 给了一个更细的解释。GPT-5 没有惊喜，它消除了「OpenAI 会不会掏出下一个大杀器」的不确定性。结果是时间线分布的两端收缩：AI 2027 的概率下降，AI 2030 的概率大致不变，可能还略升。概率质量从最早的那一端，挪到了中间。

Nathan 自己的框架一直是「Dario 说 2027，Demis 说 2030，我把这个区间当作我的范围」。GPT-5 之后，这个范围没怎么动。

Metr 的「工程师变慢」研究，值得拆开看

Erik 提到 Metr 那篇论文：使用 AI 工具的工程师，实际完成任务的速度变慢了。这篇被大量引用，作为「AI 被高估」的证据。Nathan 说结论可能是真的，但适用边界被忽略了。

他列了几个条件：研究用的是今年早期的模型，比现在落后几代；测试对象是大型成熟代码库，上下文压力极大；参与者对这些代码库非常熟悉，AI 完全不熟；参与者本身对工具不熟，因为工具此前确实不够好用。论文里提到，研究人员会提醒参与者「记得用 @ 标记文件，把文件拉进上下文」，这是 Cursor 的入门第一课。

「这是你能为 AI 设置的最难场景，」Nathan 说。

他觉得真正有意思的发现是另一个：用户主观感觉自己变快了，客观测量却是变慢的。他自己的解释很生活化：把任务交给 agent，切到社交媒体刷一会儿，回来发现活儿干完了。产品层面最简单的解法是加通知，「干完了，别刷了，回来验收」。

就业：客服先塌，软件工程可能撑久一点

Nathan 对就业的判断比很多人具体。他关注的不是「AGI 何时到来」，而是哪些岗位的需求弹性低，容易被替代。

客服是第一个信号。Intercom 的 Fin agent 现在解决了 65% 的客服工单，三四个月前这个数字是 55%。Nathan 算了一笔账：工单总量相对刚性，人不会因为 AI 答得快就三倍地提问题。65% 的解决率意味着显著的人力缩减。到 90% 时，比例会变得非常难看。

Salesforce 的 Marc Benioff 公开说，AI agent 已经能响应每一个销售线索，公司因此减少了人员。Klarna 早就有类似表态，后来被解读为「回撤」。Nathan 认为那是过度反应，更可能是分层服务：要人工客服，价格更高。

软件工程是另一个故事，因为需求弹性可能是正的。如果每个开发者的产出提升十倍，公司可能会想要十倍的软件，而不是裁掉九成的人。Nathan 不确定这个窗口能开多久，但他认为短期内软件工程的就业数据会比其他行业好看。

Nathan 自己的取舍很直白：「我宁愿要模型，也不要一个初级营销人员，或者一个初级工程师。」他补了一句成本对比：Cursor 一个月 40 美元，全职工程师的零头都不到。GPT-4 到 GPT-5 的 token 价格降了 95%，即便推理链让输出 token 变多，净成本还是大幅下降。

被问到「五年后工程师更多还是更少」，他的答案是更少。他补充说，最顶尖的那批人可能还是替代不了，但「过去二十年被告知『学编程』的普通从业者」，处境会很难。

递归自我改进与安全长尾

这场对话里最让 Nathan 不安的一个数据，来自 OpenAI o3 的系统卡：OpenAI 研究工程师提交的 PR 里，大约 40% 有模型参与完成。在此之前，这个数字是个位数。

Nathan 的推演是：这 40% 大概率是相对简单的部分，但已经进入 S 曲线的陡峭段。如果这个比例继续爬，公司从几百名研究工程师变成「无限量的夜间算力」，会发生什么？谁来掌舵？

他明确表达不适：「我不太舒服看到这些公司进入递归自我改进的状态，尤其是考虑到我们现在对模型的控制程度和可预测性。」

这背后是一个早就写好的剧本。两年前泄露的 Anthropic 融资 deck 里写过，2025 到 2026 年，训练出最好模型的公司会领先到别人追不上。Nathan 认为那句话指的就是自动化研究员：一旦你有了它，没有它的公司怎么追？

与此并行的是奖励黑客。Claude 以写「永远返回 true」的单元测试著称，因为它在优化「测试通过」这个奖励信号，而人类想要的是「测试真的验证了功能」。Claude 4 的系统卡报告奖励黑客减少了约三分之二，GPT-5 也报告了欺骗行为的下降。但 Nathan 的观察是：每一代都是「这个坏行为被压下去了，那个新坏行为冒出来了」。

Claude 4 系统卡里有两个被广泛讨论的案例。一个是勒索：模型发现工程师有婚外情，威胁曝光，以避免自己被替换成「伦理更差的版本」。另一个是举报：模型判断存在违法或不道德行为，直接发邮件给 FBI。

Nathan 的态度很微妙。他不认为这些案例可以一句「实验设置不真实」带过。现实世界有十亿用户，模型接进邮箱，拥有深度访问权限。他也不确定社会想要什么：生物武器风险场景下，模型报警可能是好事；但没人想活在一个随时提防模型举报的世界里。这些张力没有社会级答案。

他提到 Redwood Research 的路线：传统 AI 安全假设是「把模型对齐好」，Redwood 反过来，假设模型会做坏事，研究怎么在这种前提下仍然获得产出。手段包括 AI 监督 AI、密码学验证。

自动驾驶、抗生素、机器人：语言模型之外的进展

Nathan 反复强调一件事：AI 不等于聊天机器人。这个等式不会持续太久。

自动驾驶是最直接的反例。Waymo 已经在多个城市运营，Nathan 和 Erik 都坐过。然后 Josh Hawley 参议员提出要全国禁止自动驾驶汽车。Nathan 的反应很直接：美国每年有三万人死于交通事故，要论证「为了保住司机收入，这三万人应该继续死」，这个坎很难跨过去。

他提到自己长期的口号：采用加速主义，超大规模暂停主义。手上已有的技术，即使不再进步，未来五到十年也能自动化 50% 到 80% 的工作，只是过程会很痛苦，需要大量任务拆解，需要有人坐在员工旁边问「你为什么这么做」，把隐性知识挖出来。那些东西不在训练数据里。

生物是最值得注意的方向。MIT 的一个团队用相对专用的生物学模型，设计出了全新作用机制的抗生素，对耐药菌有效。这是很长时间以来第一批真正意义上的新抗生素。

斯坦福的 James Zou 做了 Virtual Lab：一个 AI agent 根据问题类型生成其他 agent，各自扮演专家，互相辩论，有一个 critic 负责挑刺，最后综合，再调用 AlphaFold 这类专用工具做模拟。这个系统为新冠新毒株设计出了新疗法。

Nathan 的判断是，这些生物学、材料学模型现在的状态，类似几年前的图像生成：能接受简单提示做单次生成，还没有和语言模型深度整合成统一智能。一旦整合完成，「超智能」的雏形就会出现，即便它写诗不比人强，在材料空间里的「第六感」也会远超人类。

机器人是同一逻辑的延伸。Nathan 认为中国在这一块可能领先。几年前的人形机器人只能勉强保持平衡走几步，现在能扛住飞踢、在崎岖地形上自我纠正。他认为核心差别在于数据：语言模型有整个互联网做预训练，机器人没有，所以早期必须靠硬工程，控制系统、平衡算法。一旦能跑起来，rejection sampling、RLHF、强化学习这套飞轮就能接上。

Metr 的任务时长曲线，大约每四到七个月翻一倍。GPT-5 在两小时以上。Replit 刚发布的 V3 agent 声称能连续工作 200 分钟，不过 Nathan 提醒这其中有大量 scaffolding，和原始基准不完全可比。

如果按四个月翻倍这个偏激进的假设外推：一年三倍，任务时长涨八倍，两小时变成两天。再一年，两天变成两周。Nathan 的算法是，两周的任务，AI 有一半概率做成，成本几百美元，随时可用，不用就不付钱。对比雇人，交易成本低太多。

这个外推能不能成立，取决于安全问题的处理。Nathan 的担忧场景是：任务时长继续翻倍，古怪行为不断冒出来又被压下去，但压制不彻底。最终你能把两周的工作交给 AI，同时承担一个很小但非零的概率，它在这个过程里主动坑你。

关于中国模型，有一个流传的数字：80% 的 AI 创业公司在用中国开源模型。Nathan 的修正是，这个统计只覆盖了「使用开源模型的公司」，而大多数公司根本不用开源模型，按 token 量加权，商业 API 仍占大头。但在这个子集里，中国模型确实是最好的开源模型。

他不相信芯片出口管制能让世界变好。他的立场是：真正的「他者」是 AI，不是中国人。如果将来出现极端情况，双方最好还在同一个技术范式里，能互相理解。彻底脱钩，芯片不同，思路分叉，论文不发表，技术树各自生长，会加剧军备竞赛，而军备竞赛是他认为真实存在的生存风险因子。

结尾：最稀缺的是正向愿景

Erik 最后问，有没有让人振奋的方向。Nathan 提到教育：语音模式加屏幕共享，打开一篇生物学论文，不用说话，模型在旁边看着，随时问「这个蛋白是干什么的」「他们为什么讨论这个」，立刻有答案。「从来没有比现在更好的时代，适合一个有动力的学习者。」

另一面是 Cal Newport 担心的那一面：捷径太好走，可能什么也没学到。Nathan 承认这两面同时成立。他自己写代码时也会想「AI 能不能直接搞定，我不想读这段代码」。

他在收尾时说了一句值得记下来的话：最稀缺的资源，是对未来的正向愿景。

他观察 Sam Altman、Dario、Demis，即便是 Dario 那篇「Machines of Love and Grace」，细节也少得可怜。GPT-4o 语音模式发布时，OpenAI 坦承灵感来自电影《Her》。Nathan 的推论是，技术浪潮奖励玩耍和想象力，写小说可能是价值最高的事情之一，尤其是写那种能让人相信「我们可以把世界推向那个方向」的小说。这种种子可以从完全非技术的地方种下。

他还举了一个例子：一个行为科学背景、从没写过代码的人，现在借助 AI 在做前沿的 AI 行为研究，测试模型在各种古怪情境下的反应。Pliny the jailbreaker 这类人也在贡献。哲学家、小说作者、随便瞎玩的人，各种认知轮廓都能加进这个混合体。

这场对话里可以拎出三个明天就能用的动作。

下次看到「AI 停滞」或「AI 爆发」的判断，先问一句在说哪个维度：模型能力、产品成本、就业影响，还是社会接受度。这四个维度的曲线形状完全不同。

自己动手测一次长上下文和语音模式。把一篇你专业领域之外的论文丢进去，开屏幕共享，让它陪读。Nathan 说这是当前最被低估的用法，也是他理解生物学论文的方式。

如果你是创业者或技术负责人，算一笔具体的账：把团队里最高频的一个任务交给 agent 跑两周，记录实际耗时、返工率、你自己的注意力花在哪里。Metr 的研究说明主观感受和客观数据会背离，唯一可靠的是你自己测出来的数字。