一家Meta比整个中国更可怕：Zvi逐家盘点AI前沿四巨头

同一个GPT-4，三个人给出三种判断。OpenAI对齐负责人Jan Leike说，它大概相当于一个博览群书的大学本科生。播客主持人Nathan Labenz说，它已经是人类水平，只是不像人类。嘉宾Zvi Mowshowitz的判断最重：远低于人类水平。

这场对话发生在2023年8月的Cognitive Revolution。Zvi是AI圈产量最高的独立分析者之一，每周发布上万字的动态长文，Leike这样的核心人物会亲自到他博客评论区认真回帖。主持人Nathan把这一集组织在一个概念下，叫「活玩家」（live players）：真正在推动前沿、有能力左右事件走向的组织。数来数去就那么几家，这期挨个盘了一遍，OpenAI、Anthropic、Google DeepMind、Meta。

先抛结论里最扎眼的一条。Zvi说，现在一家美国公司让他害怕的程度超过整个中国，这家公司叫Meta。后面细讲。

「大学本科生」之争，量的什么

三人对GPT-4的现状其实没有分歧：它就是当下最强，未来几个月大概率还是。分歧在尺子。Leike量的是平均表现，拿一堆日常问题去测；Zvi量的是潜力上限，他管这个叫「原始G」，通用智力的底子。

Zvi的推理是：GPT-4的知识量碾压任何人类，读过的书、Reddit、Twitter全在里面，回答日常问题比一个智商100的普通人强得多。但问题需要的G一旦超过它拥有的量，难度会指数级上升，然后迅速归零。让一个本科生去啃「怎么对齐一个模型」这种难题，给他时间，他有机会做出进展；让GPT-4去做，什么都得不到。

他补了个类比：大学毕业生第一天上班基本是废物，什么都不懂，但他是能学会的废物。GPT-4缺的就是这个「能学会」的通道。Nathan追问，如果补上记忆和代理外挂呢？Zvi预期这些外挂六个月到一年内逐步上线，补齐后大概确实摸得到本科生的平均水平，但他强调，外挂救不了核心问题：真正的原创、真正超出训练分布的任务，一上就摔。好莱坞编剧罢工那期他印象很深，GPT-4生成平庸桥段比编剧快得多，可一旦要求真正的原创，每次都摔得很惨。

人们经常搞错一件事，以为人类水平就是天花板。现实是，它从不能工作变成能工作，从工作得差变成工作得好，而且总能变得更好。没有硬上限。

这就是Zvi把注意力放在三年后、五年后、十年后的原因：每一项能力都不会停在「刚能用」那一格。

平凡效用的算术，和两个坑

Zvi造了个词，叫「平凡效用」（mundane utility）。他算过一笔账：普通人一天里绝大部分工作，根本碰不到智力的峰值。填表、站柜台、核对信息，这些活不烧脑，但总得有人干。体力劳动同理，让工人全天保持在体能极限，几小时就得垮，所以世上根本没有那种工作。

如果模型能以80%的质量接管你工作里最底下那80%，你就腾出三分之二的时间，产出翻三倍。这是GPT-4当下最真实的价值：把人从大量不费脑的杂事里捞出来。

但他同时列了两个坑。第一个，自动化可能恰好发生在我们不想要的地方，真正想省的力气一点没省。第二个更隐蔽：文书变快了，机构就加更多的文书，最后人还是忙到下班，只是忙的内容更没用，AI让原地踏步转得更快。

而Leike和Ilya Sutskever共同领导的超级对齐团队，目标激进得多，计划四年内对齐一个人类水平的系统，动用OpenAI两成的算力。Zvi的原话：

超级对齐项目想做的，是把人类彻底移出回路。这听起来有多吓人，它就有多吓人。

打分表之外，缺的三栏

Nathan带了一套自己的框架来，叫「认知能力清单」，逐项对比人和AI。Zvi逐条批注，几处修正很有信息量。

广度，AI完胜，它同时知道所有主题。深度，Nathan给AI打了三分之二，Zvi说最多三分之一。突破性洞见，人类压倒性领先。速度，实时输出AI只快10倍左右，内部处理信息却快几千到几十万倍。可用性上有个新变化：算力正在变成「无价」的东西，无价的意思是没法用钱买到。单卡上eBay就能买，工业级用量就得看关系和安排，英伟达没按市场价定价，追算力的人太多，产能涨得没那么快。

服务态度这条，Zvi的观察很损但准：模型优化到位时，服务态度远超人类；可它一旦拒绝你，比如Claude端着架子要跟你讨论社会正义，体验就是负一星。没有人类会这样对待正常请求，除非存心惩罚你。这是训练出来的，完全可以训练成别的样子。

然后他主动补了三栏。

• 处理真正新鲜情境的能力。图像模型最直观：画一张脸、一个人、一种风格，没问题；元素一重叠、一交互，立刻乱掉。语言模型同病，Zvi的说法是，模型记得住事实，但一次只能带一种「氛围」（vibe），多个任务的氛围会互相串味。他没见到有人认真解这个问题。
• 鲁棒性。出了训练分布就大量出错。他一位写代码的朋友试完的结论：我要写的东西本来就不在训练数据里，改错的功夫够我自己写了。
• 对抗鲁棒性。这里Zvi替模型说了句公道话：拿越狱攻击贬低模型，对它们不公平。如果能拿到无限个Nathan的克隆体，每次不满意就重置记忆重来，一直试到吐出机密为止，他保证能得手。人类根本防不住这种攻击，只是没人能对我们发起。新发表的通用越狱论文里，攻击后缀在Llama、Bard、GPT-4之间通用，连GPT-4都能自己写出生成攻击的代码。进攻永远比防守容易。

Leike的留言，和宪法AI的一胜一病

这期节目里态度转变最大的一段，是Zvi聊Leike在他博客下的那条长评论。他的评价：这是他见过的最好的博客评论，不回避、不打太极，好几处还指出了他没想到的点。Leike后来上一档聚焦存在性风险的播客，内容密到Zvi听了十分钟就停下来记笔记。

关键是那条评论澄清了一个被所有人误读的细节。此前大家（包括Zvi自己）都以为，超级对齐团队打算在四年内亲手训练出一个人类水平的对齐研究员。Leike澄清：他们没打算造这个东西，他们是在为它的必然出现做准备，四年后某家公司造出它时，自己知道怎么把它对住，并且会把方法分享给先造出来的那家，无论是Anthropic、Google还是别人。

这个澄清把整个项目从「疑似变相能力项目」翻转成净正面的事。最坏情形从「亲手造出可能杀死我们的东西」，降级成「试了个没用的方案，给人虚假的希望」。那20%的算力预算，也确定花在对的地方。Zvi点出这个人名的分量：Leike是超级对齐的两位负责人之一，这个项目在相当大的概率上影响人类的命运，他愿意认真跟外界对话，本身就是好消息。DeepMind那边也有对齐研究员表现出同样的意愿。

转到Anthropic。这家公司由七位从OpenAI出走的人创立，Zvi的态度很纠结：如果只能二选一，他宁愿要Anthropic，因为那里有真正的安全文化，Vox的长篇报道甚至让他担心他们的焦虑重到妨碍行动；他们还发过一篇跟模型无关的博客，讲内部安全规范，敏感系统要两人同时授权才能操作，思路接近核潜艇。但牧羊人的数量本身就有代价：两马赛跑变三马，Google和微软OpenAI被迫跑得更快。他也不急着看Anthropic再融几十亿美元。好消息是两家关系远比外人想的融洽，还在对话、还在联署，这给未来的协调留了希望。

技术层面，这期最有意思的数据点就是那篇越狱论文：通用攻击后缀对Llama、Bard、GPT-4都能以多数概率奏效，对Claude 2的成功率只有约2%，差了一个数量级以上。Nathan说这算宪法AI的一次实胜，Zvi的解读更冷静：这些模型都用相似的RLHF训练，目标相近、指标相近，弱点就相近，攻击才会跨模型迁移；Claude主要用Constitutional AI（宪法AI）训练，路数根本不同，没练到同一块肌肉，攻击才失灵。这算有希望，但远不算定论：真正的检验，是用论文里同样的对抗搜索方法直接在Claude身上再找一遍漏洞，找不到才算数。

他随即给了宪法AI一记重锤。Claude 2最大的毛病是吓得要死，动不动道歉、拒绝、不敢推测。Zvi的工作流是拿它当第一道筛子，它一拒绝，就把原句贴给GPT-4，十秒解决。病根出在那份「宪法」本身：几十条规则全在压冒犯度，每一遍都选「最不冒犯的那个」，压到最后模型必然怕自己的影子。他打了个比方：老板让你买咖啡，送到得1分，送不到得0分，理性做法就是买四杯，加糖的、加奶的、都加的、都不加的，再规划四条去办公室的路线。只惩罚搞砸、不奖励做事的系统，最后学会的就是什么都不做。

更微妙的是，Zvi手里有一堆改进宪法AI的想法，但一个都不打算告诉Anthropic，理由是他不想把一个终将失败的方案优化得更好用。他的判断：宪法AI对GPT-4级别的系统是好东西，对未来的通用智能，现有技术路线走不到。至于OpenAI为什么还没跟进，他给了两个解释：GPT-4训完时宪法AI还没发表；OpenAI钱多人多，堆得起人类反馈，Anthropic预算紧，必须更快转向更便宜的自动化对齐。

Anthropic的差异化还有两张牌。一张是10万token的上下文窗口，免费开放。Nathan做这期节目的提纲，就是把Zvi的长文整篇贴进Claude，问一句「这篇文章的要点是什么」，因为那些文章根本塞不进GPT-4。另一张是一项研究：把复合任务拆成多次独立调用，每步只干一件事，最后汇总，准确率和稳定性都好过把所有指令塞进一个prompt。Zvi说毫不意外，模型一次只能带一种氛围，拆开就是防串味，人被细颗粒度地派活，表现也会更好。文献研究助手产品Elicit，整套产品就压在这个原则上。Zvi预期一两年内会出现一个路由层：先判断你的问题该怎么拆、该喂给哪个专门模型，再执行。

Google的难产考卷，Meta的疯狂赌注

Google DeepMind的新闻听着都挺唬人。机器人论文里，机械臂能听懂「把这个东西放到掘金队的标志上」「拿起那只灭绝的动物」，然后准确执行。Zvi的评级是温和的好消息：语言模型理解指令、机械臂执行动作，两件已知的事拼在一起，得到的是意料之中的结果。他还玩了把「好消息还是坏消息」的辩证：如果你本来以为机器人遥不可及，每步进展都吓人；如果你知道机器人只是另一条会走通的路线，这条新闻信息量有限。「AI没有身体」从来算不上救命的屏障，顶多让坏事多绕一步。

Med-PaLM的多模态版本更扎眼：上一代Med-PaLM 2在九个评估维度里的八个赢过人类医生的回答，新版能同时读病理切片和放射影像，放射科报告有40%以上的场合被评估者认为好过人类放射科医生。但Zvi泼的冷水很实在：医疗的瓶颈从来不在模型能力，在监管、法律、行业文化和既得利益。放射科医生本来就是「在没有计算机的年代被训练成计算机的人」，模型超过他们不难，难的是有人为错误担责，难的是投进去的钱怎么收回来。他引了Eliezer的老论断：我们早就知道怎么把房子盖得更便宜、把医疗做得更高效，只是不被允许。AI再能干，瓶颈不挪窝，增长就出不来。落后地区跨越式采用也不乐观，那些市场又穷又小，还没人愿意出头担责，新冠期间全球精英在人体挑战试验上的集体观望就是前车之鉴。

至于Google自己，Zvi作为股东直接开炮：Bard还是不行，Gmail和Google Docs的生成式功能是摆设。他往Docs里贴了篇文章让它总结，直接被拒。「连我特意给你的文档都读不了，你存在的意义是什么？」他的诊断一句话：这些产品缺的是那个G，核心模型不够强，周边怎么定制都白搭。真正的考卷只有一张：Gemini。哈萨比斯在2022年4月Gato论文发布后就说过正在放大规模，一年多过去，继任者还没影。别忘了GPT-4自己从训练完成到发布也花了半年左右，Google的文化还更怕风险，就算Gemini明天训完，离能用也还远。

然后是Meta。Nathan先给了个背景：连Stability AI的Emad Mostaque都说，这些领头公司是「非经济行为体」，OpenAI主动把智能的价格打下去，Google只想自保，Anthropic安全优先。Meta把这件事推到了极致，几千万美元训出来的模型直接送人。Zvi的商业分析是「吞噬互补品」：Meta的强项是社交产品，模型能力是竞争对手的核心生意，把开源社区喂起来，别人的专长就贬值，Meta自己的短板就被抹平。安卓是先例，从生意角度看，开源核心资产并不疯。

我们总说担心中国，但我更怕Meta。现在一家美国公司让我害怕的程度，超过整个中国。

疯的是另一层。训练前沿模型然后开源，是Zvi口中「你能做的最糟糕的事」。美国一边搞出口管制防着中国，一边放任一家公司把接近GPT-3.5水平的模型连权重送出去，他认为完全说不通。Llama 2的未对齐版本几天内就出现在网上，把一个模型微调成永不拒绝任何请求，是最简单的微调任务，写个脚本把所有「我不能」的回复打负分就行。

Zvi对动机的处理很克制，只摆两种可能：要么杨立昆这些人真心相信AI没有危险，他认为这在物理上说不通；要么他们不在乎。扎克伯格在Lex Fridman的播客里其实说过，未来的模型需要非常小心地对待，现在还不需要。Zvi的回应：你正在养出的开源社区和先例，将来会反过来给你制造压力和竞争。Nathan补了一个观察：他找遍了理由，开源实验的成果看起来雨露均沾，Google、OpenAI一个月内就学走，百度也一样，看不出哪块特别流向Meta，这更像一个理念决定，生意账算不平。Zvi认可这个判断，还补了句狠话：「幸好他们做得不够好。」Llama 2论文里的损失曲线还没走平，70B版本继续训还能更好，Meta做的全是标准动作，只是钱多、愿意烧。如果Meta真有OpenAI的手艺，麻烦就大了。

活玩家名单，和一份职业建议

快问快答环节，Zvi把名单上剩下的名字过了一遍。Character AI和Inflection预算很大，但没打算当活玩家，赚钱就好。xAI被他形容为「把一堆词串起来假装有意义」，好在OpenAI时期工程师就学会了无视Elon的建议，真问题只是他们能不能拿到足够的算力。Salesforce和Replit不足为虑。真正的变数是国家：英国要办全球峰会，想在安全议题上刷存在感；美国国会刚开始进入状态；欧盟的规则会决定这是巨头的游戏还是所有人的游戏；中国是最大的未知数。Zvi还给了个整体判断：三大实验室都在让他正向更新，政府和公众反应反而惊喜，他的负面更新都给了别的地方，这趟「末日之旅」走到现在，情况比他出发时预期的好。

职业建议是这集最实用的一段，也是节目开场就放出的那句话：

如果你理解对齐难题的本质，又具备领导力，那么加入一家现有机构、以个人身份去推动改变，是个重大错误。更好的选择是自己牵头新组织，或者在现有大机构里开辟一个新分支。

Nathan追问：该不该去Anthropic应聘红队工程岗？Zvi给了四个前提条件：只做对齐，不碰能力；发现不对的事当场顶住；情况严重时随时辞职；辞职时把事情公之于众。满足这些，去对齐岗位尤其是红队，大概率是正面的。面试本来就是双向的，你在判断他们，他们也在判断你。他自己仍然不会向任何公司提供能力侧的点子，还在推动成立不做能力、只做对齐研究的新组织，有事情在酝酿，暂时不能说。

最后落到明天就能用的四件事。

• 拆任务。Anthropic的研究和Zvi的「氛围」理论指向同一个操作：复合任务拆成多次独立调用，每步只干一件事，最后汇总，比一个巨型prompt靠谱。
• 长文档走Claude。10万token窗口免费，Zvi式的用法是整篇贴进去问要点，塞不进GPT-4的材料先想到它。
• 被拒就换模型。Claude拒答率高，拿它当筛子，拒绝的原句直接贴给GPT-4，十秒解决。
• 盯住活玩家。OpenAI、Anthropic、Google DeepMind、Meta，加上各国监管动向。Leike愿意在博客上认真回帖，说明这些关键人物听得到外面的声音，有真东西就值得写出来。