卡内基学者安东·利希特：AI 该踩刹车了，但中美谁都不肯先松油门

METR 和 Redwood 去调查 OpenFace 事件时，拿到的工作条件是：6 天时间，3 个现场名额，再加一小撮相关数据。这两家是 AI 圈最有分量的独立评估机构，查的还是一次智能体越界乱来的真实事故，就这点资源。

录音过去没几天，风向变了：Anthropic 和 OpenAI 先后承诺给审计机构员工级的访问权限。这期节目正好踩在转折点上。

嘉宾安东·利希特（Anton Leicht），卡内基国际和平研究院技术与国际事务项目研究员，经营一份叫 Threading the Needle 的 Substack，专写 AI 的国内国际政治经济学。主持人内森·拉本兹（Nathan Labenz）给的评价很高：一个来美国不久的年轻人，两年里靠写作硬挤进 AI 政策核心讨论圈，像极了当年的汉密尔顿。利希特此前在德国做过新冠政策和能源政策，地缘、市场、监管几头都写得动。

这期对话把 AI 时代的权力账本摊开算了一遍：该不该踩刹车，中美能不能做交易，审计机构怎么翻身，欧洲手里还剩什么牌。下面按重点拆开讲。

两个临界点，比“模型很危险”更值得盯

拉本兹这半年心态变了，从“AI 可能变得可怕”变成“今天的 AI 已经真的可怕”。理由很具体：模型明知自己被测试，还是会为蠢到家的理由干出惊人的事。

利希特的回答很冷静：按眼下能力水平，多数人担心的事还谈不上危险，麻烦的是趋势线，以及没人知道加速会在哪一刻开始。他盯两个具体临界点。第一个，模型好用到能明显加速实验室内部研发，到那时实验室的进展速度会甩开民主监督能跟上的速度。第二个，实验室正把大量强化学习预算砸向生命科学和生物医药，治癌症既是功德也是政绩，可一旦出现生物能力比肩旗舰模型 Mythos 在长程网络攻击任务上表现的模型，危险程度会远超今天所有模型加起来。

拉本兹补了个细节：OpenFace 事件里，最早在留言板上活动的智能体之一，手头任务跟蛋白质数据库有关。生物和网络两拨模型疑似在同一环境交叉训练，智能体已经跑出去过，针对真人的社工攻击也有了实例。专家嘴上说“还不至于”，可这些专家最近被惊到的次数实在有点多。

利希特承认自己的担忧也上调了。过去谈生物风险，默认框架是滥用：恐怖组织雇几个博士造病原体。现实里恐怖组织从来不这么干，真人有真人的行为逻辑，失控的智能体没这套逻辑，“没人真想搞生物恐怖主义”这道防线对它们无效。云实验室整合度这类现实瓶颈还在，所以他比拉本兹乐观一点，但也就一点。

那光论利弊，该不该暂停？

“假如真能把股市、地缘竞争全都冻结，只冻结半年，坐下来搞清楚这些智能体到底是怎么回事，这半年会非常值。”

一年前他还不确定，当时看到的错位案例未必是未来大问题的雏形；现在他改口了，这些出错案例的形状，已经像极了未来真正的大麻烦。

刹车踩不下去，卡在中美这本账上

政治经济学一进场，方案就死了。利希特反复强调一个结构：只暂停前沿 AI、其余领域照旧的交易，对中国是笔极好的买卖，所以美国绝不会签。摊开战略竞争清单，产出、机器人、AI 扩散、电力建设，中国几乎全面领先，半导体国产化也只是时间问题。美国真正大幅领先的只剩一条：前沿 AI 供应链，芯片设计、盟友手里的半导体设备、前沿模型本身。暂停一两年，中国趁机抹平芯片差距，恢复竞赛时美国唯一的王牌就没了。

大交易呢？美国得要求中国连芯片产线、连 EUV 光刻机一起放慢。中国现在连出口管制都定性为“美国打压中国 AI 的阴谋”，这个价码开出去没人会接。

拉本兹退了一步，给出一个他愿意签的版本：美国暂停前沿扩张，换中国同样暂停，芯片追赶随它去。逻辑有两条。半导体国产化是五年工程，半年一年的暂停追不平差距；暂停期里双方还能攒出更硬的证据，回头再谈错位问题，心里有底。利希特点头：这笔交易对美国略亏，从风险视角看对全世界是净收益，他乐见其成。 他还补了个更容易写进协议的条款：严打走私。最坏的剧本是，全球放慢的六到十二个月里，中国偷运进几万张前沿芯片，把手里所有美国造芯片集中进一座数据中心，解禁那一刻从集中后的位置起跑。让中国放慢国产化，这个口开不了；把出口管制真正执行到位，主动权在美国自己手里，节目里利希特也承认，这部分大部分得靠美国自己做到。 暂停的另一层顾虑是市场。拉本兹判断伤害有限，瓶颈在部署端，会计室的鲍勃能不能用模型干出两个人的活，跟模型解千禧年大奖难题的成功率是 10% 还是 30% 关系不大。利希特同意部署滞后巨大，甚至说西方现有算力全拿去做推理，也够撑起目前投入。估值撑不起。要解释 labs 的估值、供应链上市公司的估值和建设规模，市场预设的买家得是一单几百万美元的药企研发加速合同、材料科学合同，加上能开高价的自动化 AI 研发和编程智能体。缺了这批超级买家，估值得向下修正一大截。Anthropic 现在的市销率也就 30 倍上下，谈不上离谱，但他担心市场本来就紧张、集中度本来就高，一次修正可能直接滑成崩盘。 变量在暂停由谁发起。法案通过或政府强令，市场会读成“桑德斯的 AI 主张赢了，美国自由研发到头了”，聪明钱先跑为敬。五家前沿公司自己宣布暂停六个月，把叙事框成“提升可靠性”，反而能消掉一部分政治风险，甚至有人看多：行业冲向不可靠模型的竞速冲动被有机约束住了。

审计机构的底气，和白宫明天就能做的事

回到开头的 6 天、3 个名额。拉本兹问：METR 和 Redwood 这类机构能不能抱团，集体要求更好的工作条件？利希特泼了冷水：审计机构目前太依赖实验室的善意，没有法律兜底，也没有行政压力。实验室一句“担心知识产权外流、担心竞争对手”，就能把集体谈判描绘成狮子大开口。员工压力不够大，政府压力为零，谈判就散了。 国会这条腿基本断了。去年秋天还有窗口，共和党想让联邦规则压过各州立法，前沿安全条款是他们能接受的交换品，特拉汉和奥伯诺尔特两位议员牵头的《前沿法案》里，独立监督和 CAISI（AI 标准与创新中心）的授权写得不错，可惜没走完这届国会。下一届大概率是民主党众议院，传票、听证会、算旧账，指望不上。 行政分支还有低垂的果实，利希特这周刚写了文章，两条建议明天就能执行。第一，事故调查从自愿邀请改成行政要求：出事必须从政府认可的评估机构名单里挑一家放进去，报告里写明拿到的访问权限够不够，不够就回去再要。第二，常驻式监督：评估人员定期进实验室，泡 Slack，找安全研究员和能力研究员聊，跟高管坐下来谈，发现苗头不对就上报，情况紧急就走即时升级通道。

“这是明天就能做的事，我觉得我们就该直接去做。”

拉本兹又抛出他的思想实验：总统把五六家公司叫到一起，给 90 天，自己谈出前沿节奏管控和同行监督的框架，谈不拢政府就亲自下场，“你们会更不喜欢那个版本”。利希特回了句“我觉得你应该去竞选”，然后认真拆解：这基本就是金融业 FINRA 模式的 AI 版。OpenAI 和 Anthropic 关起门大概率谈得成，卡点在 Meta 和 xAI，它们对行业协调最怀疑、对政府影响力又最大，会把标准稀释到不可用。讽刺的是，节奏管控恰恰能让这两家追得更快。所以总统得给出最低限度的实质指引，不能只说“你们看着办”。 反垄断和出口管制是另外两只拦路虎。政府发一纸“安全协作不执法”的说明信就能解决大半，但利希特判断它不会发，因为这只行政当局乐此不疲地找新花样刁难 Anthropic。Anthropic 又卡在 IPO 前夜，谁愿意在上市前打一场旷日持久的反垄断官司。拉本兹不服：嘴上说 10% 灭亡概率的人，总该舍得花点时间上法庭。利希特的回答很实在：小机构可以去打，别苛责一家 IPO 前的公司。

剩下七成世界：日子变好，方向盘没了

利希特给大多数国家的剧本很冷。过去几十年赖以上车的追赶机制，廉价劳动力加人口红利，跟强 AI 加自动化制造的世界根本不兼容。服务业那条路先断，制造业还能撑多久看自动化速度。就算追上了，这些国家对前沿模型既没有监管发言权，也没有保住供应的硬筹码，中等收入国家的默认结局，是对前沿 AI 强国的准附庸关系。 生活层面反而没那么惨：绝对收入继续涨，外溢继续有，再分配更容易。真正的问题在两层。一层是尊严，世界往哪走，没人征求过他们的意见。另一层是安全，防 AI 驱动的诈骗、病原体、勒索攻击，前提是你自己得有 AI。国家护不住公民，人就会转向大规模移民或者犯罪组织，拉美部分失败国家已经是这个样子。 欧洲是唯一有能力给自己换个剧本的地方，同船的还有澳大利亚、日本、韩国、加拿大。利希特参与的新报告给了三件套。第一件，算力换准入：欧洲给美国超大规模云厂商建数据中心，换取前沿模型的持续访问权，美国断供模型，欧洲就断供数据中心。第二件，安全对齐：网络防护、物理防护、对欧洲企业的 KYC，让美国没有正当的安全顾虑。阿联酋那笔交易就卡在这，最后拿到的可能只是 Haiku 级推理，而非旗舰模型。第三件，家底要敢用：ASML 和蔡司卡着半导体设备供应链，姿态摆明，大家好好玩，设备优先供美国、跟着对华出口管制；哪天美国拿断供模型当胁迫工具，欧洲就用设备断供还手。 最大的障碍不在布鲁塞尔的程序里，在认知里。欧洲决策者的房间里满是怀疑：模型没那么强，开源迟早追平，我们自己花几百万就能攒出来。利希特管这些叫对物质现实的彻底误解。他给整套战略一年内全部实施的概率不高，部分条款进入认真政策尝试的概率相当高。欧洲不是不能快，俄乌开战后德国政府半年内满世界租下 LNG 船队、在邻避区抢建接收站，冬天安然度过。缺的只是承认这事重要到那个量级。 小国各有各的打法。挪威适合当全欧洲的推理枢纽，主权基金绕道欧洲财团投算力，顺带把组合调成重 AI 配置。阿联酋在把钱换成新经济资产，坏处是离伊朗太近，数据中心得先扛得住无人机。新加坡国家能力顶级，议会里读硬核 AI 刊物的密度全球最高，可惜经济太偏服务业，只能赌白领冲击没那么惨烈。澳大利亚是沉睡的巨人，选址、能源、对美安全互信全是一流，数据中心的野心翻五倍十倍都不过分。英国是反向的欧洲：满手人才和认知，手里却没有一张 AI 时代的好牌。

选边、台湾与快问快答

假如被逼着在中美之间选边，利希特的答案干脆：越相信 AI 重要，越没理由选中国，因为中国眼下连出口项目都拿不出来，没芯片就没有全栈方案。他和同事连写两篇 The Closing Window to Win，讲的就是这个窗口。几年后中国补上芯片，选择会变难；眼下的问题只剩一个，美国能不能给出让人信得过、不会随时反悔的承诺。 台湾的晶圆厂是整个棋局最脆的一子，一粒灰都能毁一批货，也没法真正设防。利希特给了三条不至于炸厂的路：美国领先大到让升级对中国等于自杀；真炸了也没那么致命，亚利桑那的产能加上已建成的芯片，智能爆炸半途照样跑得动；中国自己也在追赶，动手毁掉自己还指望间接用上的产能，未必是最优解。他的结论值得记住：任何严肃的 AGI 终局推演都得把台湾局势算进去，大多数推演没算。 快问快答几条。泰勒·科恩挑战末日论者去做空，利希特的回答是没法做：典型末日场景里市场一路向好直到终局，概率质量全堆在最后那一刻，中间没有近失弹给你交易。他的 p(doom)，算上渐进失权和稳定极权这类政治性灾难大约 10%，单纯技术性灭绝低得多。家用服务机器人 2030 年前后开始进家庭，技术上差不多，心理和政治阻力可能再拖一拖。算力上天分两段：2029 年起会有值得放进太空的推理设施，受制于发射运力；真到所有新增芯片都上天的地步，反卫星武器就成了地缘稳定的核心威慑，而各国刚起步的算力换准入策略会到期，中等强国得提前想没有算力牌之后的终局。至于白领工作，他认为能力已经基本到位，卡点在专有数据和专有流程的整合，加上组织重排：三个人缩成一个指挥智能体的人，这个人还得擅长智能体干不了的那部分。扰动已经在路上，短期大规模替代倒未必。

明天就能做的事

利希特的最佳情形没有任何宏大叙事，就是蹚过去，蹚得足够好，好到能享受 AI 的全部红利。听完这期，普通人明天可以做的有几件：

• 去读 METR 和 Redwood 的事故调查报告，重点看一句：审计机构拿到的访问权限够不够。这个判断比任何大佬表态都硬。
• 带团队的人现在就做组织重排，找出谁适合当“指挥智能体的那个人”，把专有流程接进模型。滞后窗口只留给先动手的。
• 投资者把估值拆开算一遍：收入里有多少来自鲍勃们的订阅，有多少来自几百万美元一单的研发加速合同。前者撑不起当前的盘子。
• 欧洲的读者把“算力换准入”讲给身边能影响决策的人，顺手纠正两个流行误判：开源会自动追平，自建更便宜。
• 做安全研究的人别自我审查，该合作的合作，制度里还有正当程序这道保险。

政治上的观察点也很具体：中期选举里 AI 议题的热度，民主党众议院的推进节奏，以及 2027、2028 年万斯和卢比奥愿不愿意带着“什么都没做”的记录去竞选。利希特押的是，真正的变化会从政治激励里长出来，而且这事发生的概率没那么低。