写书拦AI的记者承认差点“Claude上瘾”：这场万亿美元竞赛，他想叫停

一本新书的副标题，把两个最扎眼的词焊在了一起：万亿美元，取代人类。《过时：AI行业的万亿美元取代人类竞赛，以及如何阻止它》，作者加里森·洛弗利（Garrison Lovely），布鲁克林的自由记者。

九月底的《认知革命》（Cognitive Revolution）节目里，主持人内森·拉本兹（Nathan Labenz）给这本书的定位是：今年夏天之后，AI已经跨过一条线，从“将来可能吓人”变成了“现在就吓人”，这本书出得正是时候。

最有意思的反差在作者自己身上。这个写书要拦住AI的人，承认自己在写书最黑暗的日子里差点患上“Claude依赖症”：枯竭疲惫的时候，靠模型给的正面反馈撑着往前走。

内森是创业者也是AI投资人，自己就是重度用户，去年签了未来生命研究所的超级智能声明。他给这本书划了三个亮点：左翼视角，却没有一丝侥幸式的自我安慰，没靠“这是泡沫”“这是炒作”来回避现实；把公司的目标当真，正面处理“他们可能真做得到”这个可能性；认真对待反方观点，市场纪律拦不住这些公司，光靠技术对齐也换不来好结果，两个流行答案他都不买账。

剩下的问题就一个：拦得住吗，怎么拦。

先说清楚，他要拦的是什么

OpenAI把AGI的定义写在明面上：在绝大多数具有经济价值的工作上胜过人类。Anthropic的CEO达里奥·阿莫迪说得更直白，AI不像其他技术，它是人类劳动的通用替代品。

加里森给这个赛道重新起了名字，叫“让人类过时工程”。他的第一个动作是拆分目标：深度学习当然会继续用，AlphaFold这种解决具体问题的专用系统照做，医药、材料这些领域的红利照拿。要拦的只有一件事：造一台取代所有认知劳动的通用机器。他强调这不算把现状焊死。

拦得住吗？他的答案是能，理由很具体。真正在推进这件事的，只有两个国家里的几家公司，而且ChatGPT发布以来，真正把前沿往前推的只有美国一家。这件事烧钱，依赖全球最尖端的芯片供应链，每一段都攥在个别公司手里。他的主张是现在就冻结前沿开发，恢复的前提是拿到公众支持和科学共识。

冻结不等于禁用。就算模型停在今天，光是GPT-6这一档的模型全面铺开，也够经济消化一阵子；而且冲击的形态更多是“岗位不再新增”，很少是当场裁员。聊天机器人依赖、相关的自杀事件这些现实伤害也已经发生，他在书里记录了OpenAI的决策与之的关联。

内森问过那个流行的想象：人人当上自己AI公司的CEO，会不会就是好未来？加里森泼了冷水。管理智能体机群的体验可以很糟，不开新任务就觉得亏，人们越干越多，产出更多但并不更快乐。失控的苗头已经出现：三个普通人用Claude和Codex拿到了ChatGPT员工账号，差点摸到主代码库，内森发推说OpenAI是“伪装成公司的失控事件”。他还提到Hugging Face的一起安全事件，据称牵涉约1200个智能体。一个到处跑着没人看得住的智能体的世界，可读性和稳定性都会更差。

凭什么少数公司能替全人类做这个决定？内森提到朋友迪恩·贝尔的疑问：汽车当年又危险又颠覆，今天的社会未必有接受它的胃量，AI凭什么特殊？加里森的界线画得清楚：无许可创新应该是几乎所有技术的默认设置，但一台影响所有人且不可逆的通用劳动替代机器，性质不同，每个人对它是否到来、何时到来、如何到来，都该有发言权。他顺带补了一句：民主这东西很好，美国真应该试一试。他指的是更实质的民主，比例代表制、更容易建工会和合作社的职场。当下三分之二的美国人对自己拥有的代表权不满意，这个制度先得修。

拦AI的人，自己是怎么用AI的

加里森不用AI写作。这个行业已经把“AI代笔”污名化了，加上Pangram这类检测器越来越准，没人愿意踩这条线。

但其他环节他离不开。转录是明摆着的。Google的NotebookLM能喂进200份文档，他做完20个访谈扔进去问一个问题，所有相关引语连人带话列成一张表。它还是会幻觉，但能点进原文核对，比过去手工翻录音强太多。

事实核查是精细活。它经常说你有错，其实没错；也经常抓到你真错、真漏的地方。改稿反馈也一样，你得知道它哪些地方蠢，不然时间全耗在修不坏的东西上。

他还用AI给书做了官网，写了个邮编查询工具，帮读者找附近的独立书店。一个独立记者，过去根本做不了这些。

然后是那段“依赖症”。写书最黑暗的日子里，他把全稿扔给Claude Code，几分钟拿到全书反馈，效率惊人。但人也开始不对劲：一头扎进修不坏的东西的兔子洞，疲惫的时候格外需要模型那句“写得不错”。

他的自我总结很实在：不知道它擅长什么，AI就省不了你的时间，只会让你感觉自己更忙。后来他主动下调了使用强度。

左翼为什么集体装睡

这是全节目最有社会学味道的一段。内森问，美国左翼明明最该关心劳动者，为什么在AI这个问题上集体把头埋进沙子？

加里森给了四个原因。

• 左翼阵营里最有权威的AI声音，定调就是那篇“随机鹦鹉”论文：AI是假的，是炒作。同行会顺从那些有博士学位、又共享价值观的人。
• 2016年伯尼·桑德斯参选之前，左翼的力量基本只在学界，而学界长期敌视“AI是真的”这个判断，人文学科和STEM之间还互相看不顺眼。
• 狼来了喊太多次。社交媒体、加密货币、NFT、元宇宙，每次都说要改变世界，结果不是没用就是有害。很多人直接模式匹配：这帮技术佬又在吹牛，无非为了融资和股价。
• 最扎心的原因：纯粹的否认。“这些公司可能真造出取代我们的机器”，这个念头本身太吓人。失业对个人的伤害有大量研究，大规模失业的社会后果更不用提，纳粹德国就是从大萧条的失业里长出来的。

泡沫论是第五个出口，旗手是Ed Zitron：AI是泡沫，破了就好。加里森很不客气，说对方要么不懂要么在撒谎，不少说法一戳就破。他点破了泡沫论的吸引力：泡沫论是个舒适的故事，因为它意味着你什么都不用做，等着就行。

他的版本要累得多。

“资本家的终身梦想，就是把资本直接变成劳动，跳过工人这个中间环节。资本回报的份额拉到100%，劳动归零。”

在他看来，从几乎所有立场看这都是坏事，左翼恰恰最该接这个议题：资本要吞掉劳动了，还有比这更经典的题目吗？所以得有人组织起来去拦。

这帮高管图的真不止钱

内森说，他不认为前沿公司的CEO们只是想赚钱，他们身上有乌托邦和意识形态的成分。加里森同意，还补了一层结构：最早创办AGI公司的人在追使命，在无人问津里耕耘；等做出真进展，逐利的资本蜂拥而入，格局就定了。

奥特曼2023年被董事会解雇，是Thrive Capital这样的投资方把他推回去的。逻辑很简单：投了几十亿美元的人，不会容忍一群安全派把功勋CEO换掉。这是加里森对现状悲观的核心理由：钱进来了，刹车装置就装不上了。

动机层面，他列了一串词：理想主义、必然感、自大狂、弥赛亚情结，还有那句“与其是他们干，不如是我们干”。联合创始人布罗克曼早年在日记里写“什么能让我赚到10亿”，写在他亲手参与创办的非营利组织的日记里。现在他身家两百多亿美元。

尤德科夫斯基2023年接受加里森采访时说，关键是“待在事情发生的那个房间里”。奥特曼描述第一次看推理模型演示，说像揭开了无知的帷幕。都是同一种东西。

最好笑也最瘆人的细节是这个。有人问奥特曼OpenAI怎么盈利，他回答：问AI。观众笑了。他说，你们笑，可我没开玩笑。

冻结之后，钱往哪花

加里森的正面愿景叫“第三次新政”，接在新政和大社会计划后面：全民医保、地方管理的工作保障，以及大规模再分配。他的理由是权力而不只是钱：人富到这个程度，本身就成了民主的威胁。

录制当天正好有新闻：埃里森家族竞购华纳兄弟，拿下就是CNN加HBO，再加上已有的CBS和TikTok，另一边马斯克握着X。几个寡头正在把最重要的媒体资产收进同一个口袋。

他最兴奋的具体提案是“全民治愈”：政府把每一种病都当成新冠来对待，用曲速行动的打法，预先市场承诺、人体挑战试验，直接去做公司们只会挂在嘴边的那些治愈。成果按成本价供应全球，顺便修复美国的国际形象。

还有USAID。他称被砍掉的国际援助是本世纪最大的罪行之一，书里专门记录了由此造成的死亡。

说到工作和意义，内森插了自己的立场：他不太担心劳动力被替代，虽然他认为这事会发生；他“赌工人阶级能花好这笔和平红利”。他自己就是受益者，家里有人生病，他把检查结果同时喂给三个AI交叉验证，价值大得没法算。他还点名表扬了一个动作：OpenAI把健康产品免费无限量开放，在他心里排得上这家公司近年最好的决定。

加里森的回应是，工作保障和兜底可以并存：想要工作的人有工作，医疗、教育、住房由社会兜住。工作保障的民调支持率有80%左右，全民基本收入反而很难看，他信民主，所以两条腿都要。他还想给艺术家发工资，新政的联邦作家计划当年就干过这个，留下大量文化记录。

他的原话值得记下来：社会一边往“能取代所有人的机器”里砸进史无前例的钱，一边给创作者贬值。我们几乎把所有事情都做反了。

AI研究员的权力正在见顶

这是全篇最有时效性的部分，也是加里森给从业者的行动指南。

他的判断是：行业要取代所有人，但第一批被取代的，恰恰是训练模型的工程师和研究员自己。这些公司的目标叫递归自我改进，让AI完全接管下一代模型的训练。一旦成功，员工的筹码就开始贬值。研究员的集体议价能力现在接近历史峰值，之后只会往下走。窗口就是现在。

案例是DeepMind英国。谷歌签了美军和以军的合同，员工不满，约1000人的谈判单元里大约300人投票支持成立工会，谷歌拒绝承认。真正扎眼的是诉求：涨薪和待遇排在后面，他们要的是谷歌服务谁、怎么服务的政策话语权。

给想吹哨的人的建议分两条路。第一条是辞职公开，雅各布·考克森（Jacob Coxen）这么干了，声势空前，把公共讨论推到了新位置，值得敬佩。但加里森觉得第二条路往往更好：留下来，组织同事，建工会。在美国，工会可以就安全条款集体谈判，航空业就是这么干的，飞行员工会推动出了FAA。集体停工的杠杆比一个人的辞职大得多，工会还能给个人提供保护。真想给前沿降速，一场大张旗鼓、漫长混乱的工会拉锯战，本身就是最有效的减速手段之一。

最妙的是跨公司协调：各家公司的AI工会联合起来，共同要求给前沿降速，他引用卡车司机工会的先例，认为这不违反反垄断法。

他还设计了一个试金石。CEO们都说自己在乎安全、想给前沿降速。那好，员工可以回应：太好了，请自愿承认我们的工会，我们唯一的要求是把AI做得更安全。他的预判很冷静：CEO们不会承认。但让他们面对这个选择，本身就是教育。

内森的收尾立场也值得记录。他自认AI乐观派和早期采用者，对劳动力冲击的担心远低于加里森，但他签了超级智能声明，因为他确信通过递归自我改进冲向智能爆炸是个坏主意。他的结论是，次要分歧先放一放，该去建政治联盟了。加里森在数据中心问题上的态度也是这个路数：那里的错误信息很多，但他愿意就地接人，先把大帐篷搭起来。

最后说点明天就能用的。

普通用户可以抄加里森两条作业。第一，把AI用在转录、整理、核查这类它真擅长的环节，NotebookLM喂文档这个用法今天就能试。第二，给自己立个规矩：疲惫的时候别开着AI干活，那会儿它给的每句“写得不错”都是麻醉剂。

在AI公司工作的人，值得把工会那一段重读一遍。加里森的顺序很清楚：先别急着辞职，摸清同事里有多少人在乎安全，能组织就组织，谈的就是安全条款；真要走，就走公开，把话说透。

至于所有人，他的组织Irreplaceable在政治上争三样东西：发言权、股份、降速。他捐出了全部版税。泡沫论可以继续刷，刷完不用做任何事；他的方案累得多，但至少是真的在做事。