# 离「自主AI研究员」上岗还有21个月,起草白宫AI行动计划的人加入了OpenAI > Cognitive Revolution No. 352 中文精读 - 原标题:Dean Ball, on Joining OpenAI: New Power Centers, Frontier AI Policy, & Main Character Energy - 发布日期:2026-06-20 - 主持:Nathan Labenz - 网页版:https://cogrev.1mmt.com/ep/352-dean-ball-on-joining-openai-new-power-centers-frontier-ai-po-LG8KXI.html - 精读字数:约 6091 字(阅读约 14 分钟) > 本文为 cogrev.1mmt.com 基于原始访谈的 AI 改写中文精读,非官方翻译;引用请注明出处并链接网页版。 OpenAI 的公开时间表上写着两个日期:三个月后,AI 实习研究员上岗;2028 年 3 月,完整的自主 AI 研究员就位。倒计时单位是月。 就在这个节点,Dean Ball 宣布加入 OpenAI,组建一个叫 Strategic Futures 的新团队,帮高管层制定前沿 AI 政策。这个名字在华盛顿分量不轻:他是 Substack 专栏 Hyperdimensional 的作者,2025 年在白宫参与起草《美国 AI 行动计划》,离开政府后的十个月里,从 Anthropic 被列为供应链风险到各州 AI 立法,几乎每件大事他都第一时间发声。 在 Nathan Labenz 的播客 Cognitive Revolution 里,他聊了一个多小时:行动计划一年的执行成绩单、Fable 被禁的来龙去脉、递归自我改进的真实含义。干货不少,挑重点说。 ## 行动计划一年考:完成了三四成,精神走样了 Dean 给这份计划打了个分。当成待办清单看,发布约 11 个月,完成度 30% 到 40%。他觉得对华盛顿来说这成绩不赖:联邦能源监管委员会(FERC)即将宣布新规,加快大型工业用户接入电网;核电推进得很猛;军方采用 AI 的速度超出他的预期。 遗憾也有。行业级应用案例被砍掉了,他到现在还觉得可惜。他原本想做医院病历系统、退伍军人事务部这类具体场景,后者是全球最大的单一支付方医疗体系之一,数据量和政府直营医疗服务都巨大,本可以逐条列出联邦政府能拆掉的障碍。时间不够,没做成。 更尖锐的批评在「精神」层面。行动计划的一大支柱是把美国 AI 推向全世界,政府转头却搞了面向所有非美国人的前沿模型出口管制,通知时间只有 90 分钟。Dean 离开政府后跑了不少国家做准外交工作,欧洲人反复提同一个担忧: > 「我就怕你们美国人哪天不高兴了,把模型一关。」 他在政府时一直忙着安抚这种担忧,结果政府自己把它坐实了。在他看来,行动计划读起来更像三十多个各自为政的主题目标,缺一条贯穿始终的战略主线,多给他两个月,他会把主线补上。 还有一个观察很有意思:职业公务员和中低层官员在踏实地照着计划干,高层基本不看文件,遇事即兴反应,然后「从第一性原理重新发明」计划里早就写过的东西,比如第三方评估、政府技术能力建设。他现在的期待是,政策制定正处于一个「高神经可塑性阶段」,三个月后也许就是另一个世界。 ## Fable 被禁,与 20 个人的即兴治理 聊到 Anthropic 的 Fable,Dean 评价很高:智力上真正跨了个台阶,很多人拿它跟当年的 o3 相比。他赶在被禁前用它干了件狠活。他在 FERC 有桩听证案,对方请专家写了 70 页反驳意见,针对他的 40 页专家证词。他让模型通读、调研、交叉分析,一个字都没让它代写,结论是: > 「这模型把那哥们儿彻底打爆了,打得那么狠,换成我自己都做不到。」 然后 Fable 被禁了。他说这是第一次体验模型能力倒退,还补了句扎心的话:**如果你是 Fable 用户,过去一周你的世界确实变笨了。**政府干预通常太抽象、太分散,人感受不到,这次是活教材。 他怎么理解禁令?三个因素掺在一起:真实的安全担忧;政府对前沿 AI 缺乏背景知识,导致担忧被放大;以及政治因素,Anthropic 跟这届政府关系本来就紧张,同样的漏洞换一家关系好的公司,反应可能完全不同。配比他不知道,但官方说法换了三次:先是「安全担忧,打不通 Dario 的电话」,战争部副部长 Emil Michael 曾公开抱怨电话回得慢,Dean 直言这里面有「谁官大」的赌气成分;然后变成「越狱风险属实」;大约 72 小时后,又变成「Anthropic 把模型给了关联中国的公司」。 那家公司是韩国 SK 电讯,隶属 SK 集团,韩国最大财阀之一,旗下还有高带宽内存龙头 SK 海力士。Anthropic 几周前就公开宣布过扩大模型访问范围,包括美国的盟友伙伴。Dean 觉得帮盟友加固电信基础设施再合理不过,政府的操作更像先动手、后找理由。 供应链风险那条线也没完。Anthropic 的案子刚在哥伦比亚特区巡回上诉法院开完庭,判决随时可能下来,输了几乎肯定上诉,他预计 2027 年夏天前最高法院会有动作。执行层面则是典型的「美国政府内部各有各的算盘」:战争部在清退 Anthropic 合同,可能一年内清零;国家安全局自己却跟 Anthropic 有合同,还尊重了对方两条红线,不做国内大规模监控、不做自主致命武器。他把供应链风险认定本身称为「完全的自摆乌龙」,一场不必要的战斗,真要处理,办法有一千种。他的结论是:美国人不太擅长容忍模糊,但适度的模糊本来就是这套流程的内在部分。 把镜头拉远,他更担心的是治理方式本身。那道网络行政令设立了一个自愿的部署前测试项目:模型发布前 30 天送检,细节保密,主要由情报界操盘,实际就是 NSA 主导,他承认 NSA 的网络能力确实一流。问题在别处:**前沿模型的访问被门禁化,一切保密,公众不知道前沿发生了什么,政府在不透明环境里替所有人做决定。** 他把社会理解成一个信息处理系统,全国的人是并行算力。公开、有立法程序、有大量公众输入的决策,能吃满这套并行算力;全部集中到保密渠道,就变得脆弱,等于二三十个人在即兴搭建 AI 治理体系,其中 15 个对 AI 没什么背景。他强调这个批评跟总统是谁无关:把总统的名字和党派从脑子里抹掉,他照样担心政府垄断前沿 AI 带来的公民自由风险。 州这一层,成绩单分两半。好的一半超出他预期:伊利诺伊州今年通过法案,强制前沿 AI 公司接受审计;康涅狄格和弗吉尼亚授权了独立验证机构的研究或试点;俄亥俄还有个更完整的法案在路上。加州 SB 53、纽约 RAISE、伊利诺伊 SB 315 三部安全法的透明度条款措辞惊人地相似,各州在向同一个框架收敛,所谓「拼图监管」的指控在这些法上站不住。 难看的一半没人盯:合成媒体和深伪法律全国已有几百部;伊利诺伊把心理健康服务定义为只能由人类提供,聊天机器人问一句「你还好吗」都可能算违法执业。讽刺的是,天天抢占头条的前沿安全法恰恰雕琢得最好,常有行业支持,处理的网络、生物风险也早已不是假问题;真正制造合规泥潭的法案,反而没人管。 ## 为什么要进实验室:前沿实验室是全新的权力中心 加入 OpenAI 的理由,Dean 讲得很清楚:**前沿实验室是一种全新的政治经济权力中心,历史上没有对应物,现有范式接不住它。** 他最爱用的类比是现代金融业的诞生。荷兰共和国和英国早期,还没有 SEC,没有英格兰银行,人们已经在做期权和衍生品交易。要让陌生人在这种交易里建立信任,必须有共同规则,而当时政府既没能力也没专业知识去制定,规则只能在行业内部和私人治理里长出来。AI 正处在同一阶段,而且 AI 还会像金融一样成为治国工具,被用来实现跟本行无关的政策目标。 白宫坐过,体制外带着不错的人脉和信息渠道也写了十个月,他的判断是:不进实验室,就永远停在抽象直觉层面。Strategic Futures 是个精品小队,跟 Chris Lehane 领导的 Global Affairs 分工明确:后者应付 50 个州、联邦和全球扑面而来的政策,前者看 6 到 12 个月后的世界,提前布子。他预计大部分时间会泡在技术团队里,追问能力前沿到底会变成什么样。 他特别点出一个被严重忽视的问题:内部部署。现行监管全部以公开发布为触发点,但最重要的决定会发生在模型内部部署阶段。Anthropic 一月份就有 Mythos 的 checkpoint,下一代大概率已经在训练。**递归自我改进时代,公司内部怎么用最强模型这件事,目前几乎没人管,而这可能是最关键的一环。**他还会进入 OpenAI 内部一个叫 MAC 的机构(使命咨询委员会性质),跟研究员、全球事务团队一起参与政策和内部治理决定。 两个细节值得记下。第一,他保留了公开写作的独立性,OpenAI 不做编辑审查,连这期播客都没要求审看。第二,谈到效忠对象,他说得很直白:他是爱国者,认同自己是美国人,先为国家,其次才是世界。帮 OpenAI 定战略、跟对手竞争,他不别扭,竞争平均下来会让一切更好。儿子还不满一岁,他清楚这份工作意味着比白宫时期更狠的强度,但他没拿独立性去交换。 ## 递归自我改进:够不上奇点,但得按奇点做准备 主持人 Nathan 把公司之间抢跑 RSI(递归自我改进)称为当下 AI 领域最令人不安的事。Dean 的基线判断偏降温:通用技术天然带递归性,用模型改进模型至少从 GPT-4 就开始了;历史规律永远是连续多于断裂。他甚至给了个量化感觉:如果 RSI 的效果跟推理模型当年在基准曲线上的抬升差不多、再多三成,那也够不上奇点。 但他紧接着补了一句:**哪怕不连续跃迁的概率只有 10% 到 20%,也高到必须现在就做准备。他的路线图分两步:先把「跃迁会不会发生、多快发生」这个问题量了又量,设好事先约定的触发条件;再针对每个触发情景写好预案,包括什么时候该去找政府。实验室之间协调减速、暂停这类机制,他持怀疑态度,但喜欢一个具体提议:由联邦贸易委员会出具「不行动函」,公开声明企业出于特定安全理由做有限协调,不按卡特尔处理。难点在划边界,Anthropic 刚亲手把这事搞砸了:以安全为名降低 Fable 输出质量,他认定这明显违反消费者保护。如果一帮 AI 公司串通着以安全为名一起降级产品,那就是赤裸裸的反竞争行为**。安全牌打得太滥,会反过来瓦解「为安全而协调」的正当性。 实验室内部什么氛围?他形容有种「站在悬崖边」的眩晕感,但谈不上恐惧。研究员的普遍态度接近:这确实有大量未知,我们不太确定计划长什么样,就算有,也不确定会照着执行。DeepMind 的 AGI 安全研究员 Rohin Shah 前阵子在 80,000 Hours 节目里讲过同样的张力:要严肃做计划,又不能被过早的硬承诺锁死,不确定性太大。Dean 给自己派的活很实际:**光有计划没用,得在组织内部建立起「我们会真的听自己计划」的置信度。**各家治理计划的黑历史摆在那里,执行才是稀缺品。 ## 主角能量时代:河流,与逆流的人 聊到历史哲学,Dean 大学时的副修方向就是历史哲学。结构力量与英雄史观之争,他给了个图像:结构是河流,人默认顺流而下;真正的历史转折者,是那些逆流站立、靠意志硬生生改变河道的人。 过去一年他最大的认知更新:**世界上很多大事,取决于一小撮人之间的私人关系好坏。**AI 基础设施建设潮属于结构力量,但 Anthropic 与战争部的冲突,很大程度上就源于 Dario Amodei 与政府高层的关系破裂。数据中心的扩张解释不了这种事,人际关系解释得了。 他给当下起了个名字:主角能量时期。哪怕机器最终接管主角位置,转型过程本身会是一段人类能动性杠杆最大化的窗口。他把这段比作恒星死亡前的红巨星阶段,膨胀、燃烧、丑陋,却有一种酒神式的壮美。用他的话说: > 「我们将生活在一个英雄的时代。也可能是反派的时代,但会留给杰出的人大量机会,大概率两者都有。」 逆流需要什么?他的答案是主动给自己套上约束:敢画线,敢说「我们不想活在那样的世界里」,并且该行动时就行动,别只发承诺。 ## 快问快答:超级政治行动委员会、儒家与股权 OpenAI 和纽约州众议员 Alex Bores(RAISE 法案发起人)之间发生了什么?Dean 跟他吃过早餐、当朋友处,但分析很冷静:Leading the Future 这类超级政治行动委员会该理解成上了发条的玩偶,默认行为就是立威,谁想当「AI 行业监管者」就打谁。金主未必遥控一切,**委托代理问题不会因为人有钱就消失**,他接触过顶级政治捐款人,对方常觉得自己控制不了自己创办的组织。他还补了句:纽约 RAISE 法案和加州 SB 53 能通过,OpenAI 多半至少默许了。 可纠正性对性格之争,他站性格这边,直觉来自儒家。礼(li)是行为规范,但世界一直在变,规范永远写不全,知道当下该做什么的内在德性,即「仁」,只能长在心里。**道德规则写不下来的根本原因,跟语言规则写不下来是同一个**:最好的写作者恰恰天天打破形式规则。这个争论头一回能拿到实验室里做实证,他想去拿数据。 股权分享呢?特朗普和桑德斯都在谈。他的态度分三层。给政府股权,坚决反对,政府一旦能用股权撬动公司治理,后患无穷;桑德斯的方案拿股权收入搞社会再分配,跟安全投入直接抢钱,一边要给全民发福利,一边可能要限制甚至叫停实验室的业务,两头不能兼得。给全民发股权,他持开放态度:拿全部 AI 公司 15% 到 20%,按美国家庭数均分,公司治理角度看跟进了标普 500 差别不大。按万亿估值算,每人分到的钱大概够买辆入门级奔驰,谈不上改变人生,但是笔认真的钱。他还提醒了硬币的另一面:人类确实贡献了训练数据,可 AI 产生的消费者剩余大部分也留在人类手里。技术史表明,哪怕 AI 公司做到五万亿、十万亿市值,拿走的也只是消费者剩余的一小角,**这本来就是企业回馈世界的方式**。主持人 Nathan 补了个注脚:儿子患癌期间,ChatGPT Pro 的标价他愿意付一百倍。 AI 公司已经大到不能倒了吗?Dean 认为这是真实风险,虽然没人刻意设计。资产负债表层层交织,半导体、小型模块化反应堆、聚变、电池、材料、冷却设备,大量国家级重要技术实际靠 AI 基建投资在补贴。他推演了一个场景:2027 年发现某些任务缺数据,需要两三年缓慢收集,增长预期下修,资本开支收缩,股价跌两三成,连锁爆仓开始,此时政府出手几乎必然。就像疫情前没人写过「政府是疫情后盾」这个条款,它只是变成了事实。 那公司手里有什么牌?两张。第一张是能力:情报界存在巨大的数据积压,仅国家地理空间情报局一家,一年采集的数据就需要 800 万名分析师才能消化,而联邦政府雇员总数才 300 万。Maven 项目之后,一次导弹打击的参与人数从 2000 人降到 20 人。第二张是内部:CEO 头上有顶尖研究员这个内部选民,政府施压过猛会触发集体反弹,这话 CEO 们可以对政府理直气壮地讲,因为它是真的。政府理论上能用《国防生产法》的优先权征用算力,也能把权重扣在机密服务器上另起炉灶,但 Dean 引了 Charles Tilly 的《强制、资本与欧洲国家》:现代国家本就诞生于暴力组织与商业资本的互相需要,**政府清楚自己不能杀掉下金蛋的鹅**,这种相互依存会继续约束双方。 ## 明天就能用的三件事 整期听下来,有几样东西读者明天就能上手。 - 把编程代理用进生活,别只用来写代码。Dean 用 Claude Code 做了个 NBA 比赛仪表盘,实时抓八场比分算「好看概率」;Nathan 给孩子看世界杯,用 AI 印了两队资料包还配了零食。homeschooling 妈妈社群把 Claude Code 玩出了花,是这个时代最被低估的用户群体。 - 盯住州立法,别只看联邦头条。加州 SB 53、纽约 RAISE、伊利诺伊 SB 315 的透明度条款正在收敛成事实上的全国框架,从事 AI 行业的人现在读一遍这三部法,比等联邦立法便宜得多。 - 订阅 Dean 的 Substack。他带着不受编辑审查的写作权进了 OpenAI,内部视角加独立笔杆的组合会很少见,第一手观察会从那里出来。 最后记一句他的自我定位。他说自己无意当历史伟人,只想在离决策最近的地方,把这场转型尽量做对。倒计时已经挂在了 OpenAI 的官方时间表上:三个月后的 AI 实习研究员,21 个月后的自主研究员。人类还是主角的日子怎么用,每个人都在交自己的答卷。