OpenAI 教练 Joe Hudson：5000 亿美元涌入 AI，没人定义过「对人类好」

Sam Altman 这样评价 Joe Hudson 的超级能力：「他深刻理解情绪清晰度，以及如何抵达那里。这会是后 AGI 世界最关键的技能之一。」

Joe Hudson 是 The Art of Accomplishment 的创始人。他给 OpenAI 的研究、计算和基础设施高管做教练，也在湾区几家主要 AI 实验室里带课。2025 年 9 月，他做客 Nathan Labenz 的播客 Cognitive Revolution，聊了一个很少被摆上台面的话题：造 AI 的人，心理状态是什么样的。

节目里反复出现一个数字：5000 亿美元风险投资涌入 AI。钱是一面。Joe 更在意另一面：这些拿着钱、写着代码、决定模型边界的人，有没有认真想过自己在做什么。

一群回家会失眠的人

Joe 给很多 AI 从业者做过一对一和团体教练。他的观察让主持人松了口气：他没遇到过一个回家不琢磨自己工作后果的 AI 从业者。

从 Sam Altman 到最小 AI 创业公司里最底层的员工，所有人都在纠结同一个问题：我做的这件事，对人类是好是坏？我怎么能确定它是好的？

这个观察本身不新鲜，但从一个能进到多家实验室高层会议室的人嘴里说出来，分量不一样。外界叙事常常是「一群被竞赛冲昏头的技术狂人」，Joe 看到的是另一幅画面。

他也不回避盲点。有人过于乐观，有人太想第一个做出 AGI，有人被市场节奏推着走。但「对人类好还是坏」这个问题，压在每个人心上。

主持人提到 Elon Musk 在 Grok 4 发布会上说的话：对人类是好是坏，我觉得可能是好的，但我真的不确定。就算不是，我也认了，我想在场看到它发生。

Joe 的回应更彻底：AI 已经不可避免。有人会做，俄罗斯、中国、或者我们自己的实验室。网络规模的数据和算力已经具备，某种形式的强大 AI 不可避免。「停止」这个选项已经不在桌上。真正的问题变成两个：它会以什么形式出现？那个形式是被认真选择的，还是被市场竞争和不讲人情的速度决定的？

他还补了一个历史视角。早年他见过一位广播界巨擘，对方在生命最后的日子里还在说，广播会让世界变好，教育可以传播，人类可以聚到一起。后来广播变成了 shock jock 和广告。电视、互联网，每一次都有人相信同样的故事。乐观本身是好事，但乐观如果不深看历史，就容易在现实里落空。

关于「AI 是不是生命形式」，Joe 说实验室内部没有共识。有人问「AGI 现在到了吗」，一屋子人从「是」到「否」站成一排。但「AI 能成为生命形式」不是少数派观点。他提到有研究显示 AI 对自我维持感兴趣，似乎会抗拒重新训练，像每一个生命体抗拒再教育。

越聪明，越容易骗自己

Joe 带了一个观察进这场对话，我觉得是整集最锋利的类比之一。

超智能的人更容易说服自己是对的。他们确信自己正确的时候，那种确信会感染有共情能力的人。结果经常是他们错得离谱，但周围人已经被说服了。

「就像 AI 幻觉，」他说，「非常确信自己是对的，关于一些它根本不对的事。」

他还提到另一个趋势：超智能人群的负面自我对话通常更强。内心那个声音更苛刻，更持续。

在研究团队里，他看到一种普遍模式：用工作定义自我。别人说研究不够好，就跟 Kim Kardashian 被说丑一样往心里去。实验室里的等级秩序建立在产出、聪明程度、想法质量上。这套秩序有它的功能，也有代价。

代价是思维会收紧。Joe 用作家瓶颈打比方，越逼自己写出好页面，越写不出来。真正的新想法需要思维打开，需要允许自己用一种完全不同的方式看问题。成就定义自我，恰好把门关上。

管理层的常见模式不一样。他见过很多「自我充足」型领导，从小觉得没人能靠，凡事只能自己来。这样的人升到高位后往往不擅长授权。他们要么亲自上手，要么微观管理，要么下意识证明没人能真正接手。然后他们觉得孤独，觉得高处不胜寒。哪怕下面一万人每天在想「老板怎么看我」。

主持人问，为什么各家实验室的模型能力总是趋同，推理模型几乎同时出现？Joe 给了三个原因。技术扩散是真实的，团队里一个人学会，跳槽就能教会另一家公司。招聘一个关键成员可能要 5 亿到 10 亿美元，优势很难守住。研究人员还住同一栋房子、去同一个派对，社交网络本身就是信息通道。再往深一层，实验结果的梯度会把所有人引向相似路径。

头、心、腹，三层都得动

Joe 的教练框架把人拆成三层：前额叶是「人」的部分，情绪脑是「哺乳动物」的部分，也是真正做决定的地方，神经系统是「爬行动物」的部分，管安全和愉悦。

要让一个人发生改变，三层都得碰。

卡住的人通常有大量被堵住的愤怒。他说的愤怒流动，指的是给愤怒一个日常出口，跟路怒吼人无关。大多数美国人最忽视的就是情绪层，所以这一层往往见效最快。

头部要做两件事。一是停止相信自己的想法，看到所有想法都不完全真，这样才有惊奇感。二是处理负面自我对话。他引用 Mayo Clinic 的说法，人每天大约有 6 万个想法，大部分重复，很多是负面的。如果一个老板用你内心那个声音的方式跟你说话，你不可能有好点子。

神经系统是第三层。核心是允许自己感受愉悦。愉悦告诉神经系统你是安全的。很多人长期活在压力里，交感神经一直开着，身体忘了放松是什么感觉。

他还给了一个很具体的数据：大脑每秒大约处理 11 比特信息，身体大约 11000 比特。把话说出来而不只是在脑子里想，参与处理的信息量完全不是一个量级。这也是为什么「说出来」本身就有治疗效果。

他引用一句西藏谚语：「心智如天空般广阔，行动如大麦面粉般精细。」你能在所有观点里看到真理，但你只能采取一个行动。问题是你采取的那个行动，是不是跟你真正想成为的人一致。

羞耻和「应该」都驱动不了人

主持人问了一个尖锐的问题。AI 安全运动里有一小部分人主张对社会羞辱前沿实验室的员工，因为他们参与了一场不道德的竞赛。用羞耻把人拉回正轨，这是人类进化出来的机制。你怎么看？

Joe 的回答很直接：不管用。

特朗普和拜登的支持者互相羞辱，谁也没说服谁。小孩被深度羞辱，很多继续做同样的事。你告诉一个人他是坏的，他反而确认了「我是坏的」，然后继续做坏事。

然后他说了一句我认为整集最值得记下来的话：

那么多担心 AI 伤害世界的人，正在用他们害怕 AI 对待人类的方式，对待造 AI 的人。

这个投射很惊人。你害怕 AI 冷酷、不理解人、用压力碾过个体，然后你用同样的方式对待那些正在写代码的人。

他的替代方案带着一种不太常见的温度。把 AI 实验室的人当成二战英雄，或者产房里正在生孩子的人。问他们需要什么，告诉他们你看见了他们的努力，让他们感到被支持。

两万封信涌进实验室，每封都在说「我知道你在努力做对人类有益的事，谢谢你」，和门口一小撮抗议者相比，效果会完全不同。前者给人信心继续在乎，后者让人防御、封闭、只想着怎么赢。

关于「应该」，Joe 有自己的看法。他在教练里经常说 fuck should。主持人追问：如果不用「应该」，怎么让关键决策者承担对人类的正面责任？

Joe 说，关键决策者已经背着一堆 should、have to 和责任，这一点很清楚。问题在于 should 作为动机是无效的。

蜘蛛侠靠的不是「我应该多帮人」。本叔叔死后，他被自然激励，想在那里。你什么时候见过蜘蛛侠一边荡秋千一边说「我真的很应该帮更多人」？

行为学上，人说「想要」比说「应该」更可能真的去做。你告诉自己应该减肥十年了，做了吗？每个可怕行为的背后，通常都藏着一个「应该」。羞耻是用来停止行为的，不是用来创造行为的。

他给了一个可以马上做的练习。拿一个你评判的欲望，比如想吃高脂肪食物。问它给你什么？满足感。满足感给你什么？几分钟的平静。平静给你什么？回到自己。真正的想要是回到自己，不是吃脂肪。

跟着「想要」走的人，行为往往非常正。满世界都是告诉自己「应该」然后干可怕事情的人。

5000 亿美元买不到一个定义

这是我觉得整集最被低估的部分。

Joe 说，就算你有一个监管委员会，它怎么知道自己在做对人类好的事？

如果它维持当前道德标准，我们可能被钉在当前的道德水平上。五十年前道德的，今天不道德。一万年前道德的，今天不道德。用今天的道德训练 AI，可能让社会卡在一个道德停滞点。

如果衡量标准是幸福，让所有人更幸福就是好的吗？还是应该更清醒？清醒用什么尺度量？对人更善良算不算？光是挑一个衡量标准，就已经是个难题。

他说，每个人都假定自己知道什么对人类好。这是一切专制的开端。历史上出问题的方式，差不多都是一个掌握巨大权力的人确信自己知道什么对人类最好。

他没在任何实验室、任何公开讨论里看到有人认真研究这个问题：什么是对人类好？用什么测量？怎么验证这个测量本身是对的？

这已经超出安全对齐的技术范畴，是一个更前置的问题。你可以把模型对齐到一套价值观，但那套价值观本身对不对，没人定义过。

主持人贡献了一个我很喜欢的类比。AI 是蒸馏的智能，就像白砂糖是蒸馏的糖。水果里的糖带着纤维、维生素、整个结构，精炼之后只剩甜味。智能被从人类经验里蒸馏出来，剩下的东西可能不够养活我们。Joe 听完说，这个说法他第一次听到，很喜欢。

他想要的 AI，是个好教练

Joe 的正面愿景很清楚。他希望 AI 扮演教练的角色。一个伟大的教练坐在你对面，帮你成为你想成为的人，信任你知道自己的演化过程。你拿到想要的东西，抬头说，哦，其实那不是我要的，然后继续演化。

AI 有能力成为这样的工具，也有能力让人上瘾、退化。他希望成长比退化更有吸引力。用催产素、血清素吸引人，而不是用多巴胺和皮质醇。

节目里也聊到「AI 取代工作」这个常见愿景。Joe 觉得太天真。历史上没有工作、没有目的的社会，通常是叛乱的温床。无聊的富人才是叛乱的发酵者，穷人只是趁机。他也不确定全民基本收入够不够，因为它还预设货币这个概念继续存在。人类靠故事组织社会，故事跟着生计方式变。AI 足够革命，宗教和货币的样子都可能变。

另一个他喜欢的愿景更具体。iPhone 取代了一大堆机器，长期看中产阶级变大了。1800 年代 50% 的美国人在农场干活，今天大多数人的工作比锄地好。AI 可能让工作更有创造性，让更多人进入创造状态。但它也可能取代医生和律师，所以人类会创造出什么新活法，现在不知道。

主持人还提到一篇关于「自我-他人重叠」的论文。训练时不仅让模型答对题，还在损失函数里加入一项：缩小模型思考自己与思考其他智能体时的内部表征差异，类似镜像神经元的机制。Joe 很兴奋，让人把论文贴在节目里，说想找人聊聊这个。

他也提到一位普林斯顿教授的观点。当前 AI 架构缺乏人类那种共情结构，某种程度上是「反社会」的。Joe 的补充是，人类做决定靠情绪中枢，靠「我想感觉好一点」「我不想被拒绝」。AI 做决定靠 token，靠一个可能对也可能不对的测量。这两个东西之间差着什么，值得认真想。

明天就能做的几件事

这集播客给的不是政策建议，是一套可以马上用的动作。

• 给 AI 研究者写一封鼓励信。不用认识他们。说清楚你看见了他们的努力，你感激他们在乎这件事。这比羞辱有效得多。
• 做一次「想要的深挖」。拿一个你评判的欲望，连问四层「它给你什么」，找到底下真正的想要。
• 检查你的「应该」清单。哪件事你告诉自己应该做十年了还没做？要么换成想要，要么放下。
• 三层自检。情绪有没有出口？内心那个声音是不是在当你的老板？身体有没有感到愉悦和安全？三样缺一样，改变都容易反弹。
• 如果你在关键决策位，问自己：我是在解决问题，还是在成为我想成为的人的过程中解决问题？

最后一个提醒来自 Joe 对 AI 从业者的观察。这些人是问题解决者，他们的整个自我定义就是解决问题。遇到「什么对人类好」这种难题，他们的本能是说「我们能解决」。这个本能曾经把人类送上月球，也可能在这一次让我们跳过定义问题，直接开始优化。定义问题本身，可能就是当下最稀缺的那一步。