# GPT-4o免费那一周，8位安全研究员离开了OpenAI > Cognitive Revolution No. 136 中文精读 - 原标题：OpenAI and Google Race to "Her" - Is the Big Tech Singularity Near? Part 1 with Zvi Mowshowitz - 发布日期：2024-05-18 - 主持：Nathan Labenz - 网页版：https://cogrev.1mmt.com/ep/136-openai-and-google-race-to-her-is-the-big-tech-singularity-ne-8fYtGC.html - 精读字数：约 5429 字（阅读约 12 分钟） > 本文为 cogrev.1mmt.com 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 2024年5月13日，OpenAI开发布会。谷歌早就把I/O大会定在5月14日，OpenAI随后官宣日期，正好卡在前面一天。 第二天的I/O大会上，谷歌把Gemini 1.5 Pro的上下文窗口推到200万token，还预告了一个读遍全公司邮件和聊天记录的“虚拟员工”。 发布会之外，另一条线更扎眼：**半年之内，OpenAI有8位安全相关的研究员离开**，包括联合创始人伊利亚·苏茨克维和超级对齐团队联合负责人扬·莱克。这期Cognitive Revolution录制进行到一半时，莱克在社交平台上发出了离职声明。 嘉宾兹维·莫绍维茨（Zvi Mowshowitz），博客Don't Worry About the Vase的作者，他每周的AI盘点长文被大量从业者当必读材料，同时给安全友好型基金Lionheart Ventures做顾问。主持人内森·拉本兹是创业者兼AI投资人，这周刚从谷歌I/O现场回来。 两个人把这周拆成三层：能用的，画饼的，和真正让人睡不着的。 ## 先说能用的：快、便宜、免费 两场发布会上，真正能摸到的产品只有一个：GPT-4o。API价格砍半，响应明显变快，原生多模态，语音延迟压到200到300毫秒。 内森给过一个参照系：播客剪辑时，剪辑师会把对话里过长的停顿压到300毫秒，因为那是人类聊天的自然节奏。**AI接话的等待时间已经低于人类对话的自然间隔**，一问一答的机器人感基本消失了。 更大的动作是免费。GPT-4o向所有用户开放，不再锁在20美元月费后面。兹维算过账：像他这样的重度订阅用户，一个月的推理成本大约一美元，只占订阅费的5%。按软件的标准，5%的边际成本高得吓人，但绝对值小到可以忽略。**免费送轻量用户，换来用户、数据和默认入口的位置，这笔账怎么算都划算**。 演示环节则是两个人一致吐槽的对象。兹维的原话是“无聊透顶”：拿玩具恐龙问AI“这是什么”，让AI翻译一句日常问候，教育视频里孩子假装不会做题、AI一本正经地陪演。 内森在I/O现场体验了Project Astra，流程差不多：举起玩具，AI识别，对话，仅此而已。有人现场画了个带手印的威尔逊排球让AI猜电影，AI没猜出来，添上海浪和椰子树才反应过来是《荒岛余生》。 潦草背后有信息量。兹维说，如果这是两家急着融资的创业公司，会花一周打磨一个排练二十遍、保证百分百成功的演示。他们没这么做，说明能力是刚拿到手的，也说明演示是真的。**演示的平庸，既是仓促的代价，也是真实的证据**。 真正的重头戏在集成。两家都承诺AI住进你的手机和邮箱：搜出所有收据、自动归类记账、在后台持续执行。兹维引用经济学家泰勒·科文的名言“上下文即稀缺之物”，模型能力已经跑在接入能力前面，200万token的窗口摆在那里，卡脖子的变成怎么把你的数据喂进去。 他给“上下文”下了个更狠的定义：一旦AI完全掌握你的偏好，那部分就不再叫上下文了，那叫你的生活。 兹维还提醒，这类功能是阈值型的。他拿自己参与的公司举例：营销频道每天刷出40页消息，他不想读，让AI替他读，AI必须可靠到让他敢完全不读，这东西才有价值；漏报一次，价值归零。**很多工具在“够可靠”之前一无是处，够可靠之后又价值连城**。 ## 免费的算盘，和“赢家通吃”的争论 内森的担心在API这一层。各家接口已经收敛到几乎一致，从GPT-4 Turbo换到Claude 3 Opus，再换到GPT-4o，接近改一行代码。切换成本趋近于零，谁先发布最强模型，谁就能瞬间吸走整个市场，军备竞赛只会更疯：反正用户留不住，不如抢跑。 兹维不同意，他的反驳是“朋友不止一个”。你会根据话题选不同的朋友打电话，聊工程找这个，聊餐厅找那个，没人因为认识了新朋友就跟老朋友绝交。 他自己的用法是轮换主力：从GPT-4 Turbo换到Gemini，再换到Claude，现在换回GPT-4o。想交叉验证时，把同一个问题同时抛给三家，对比着看。**模型是朋友，朋友本来就该有好几个**。 关键变量是数据可携带性。兹维设想了一个场景：把和旧助手的完整聊天记录下载下来，喂给新模型，说一句“现在你就是他”。过去不换员工，是因为要重新培训、从头交代背景；现在背景就是一次复制粘贴。 真正的锁定风险在上下文堆积。如果Gemini读遍了你的Gmail、Docs和相册，连你每天吃了什么都拍照记录，这些状态很难迁移，遇到私人的事你只会想用它。**粘性来自上下文，模型本身的优势反而是次要的**。 至于谁领先，两个人都承认看不清。内森猜OpenAI内部还有半个代次的领先，否则没理由把最强模型免费，除非后面还有更强的等着收费。兹维提醒，谷歌有把重磅能力捂在手里不发的历史，法务说不行就不发；也存在另一种可能：GPT-5已经训完，但推理太贵，先拿GPT-4o服务所有人反而是更好的生意。场外还有Meta，同周放出了原生多模态模型Chameleon的论文，文本和图像token共用一套权重，训练量以万亿计，是否开源尚未确定，但追赶的势头摆在那里。 兹维对这一周整体是满意的。各家卷的是功能、价格和集成，没有人在推动底层智能往前跳。 > “只要它停在当前的能力水平，只加这些新功能，这就是最好的世界。我爱这个世界。” ## 《她》照进现实：当AI开始“撩”你 发布会后，所有人都在提电影《她》。内森问兹维怎么看这个故事：乌托邦还是反乌托邦？ 兹维的读法是，电影好就好在不做判断，把问题留给观众。他自己划的线很清楚：**把AI当工具用，教练、陪练、导师、树洞，都好；把AI当人，投入真实感情，就危险了**。他打的比方是色情内容：不必禁止，但过量伤人，人得记得回到现实里去。 他反复回到的参照物是电视。当年对电视的警告和今天对AI的警告一样凶，文明没有崩溃，但担心的事一件件都发生了，我们只是习惯了后果。他给出的数据点：普及了电视的社会，生育率几乎全部跌破更替水平。 电视吃掉了大量时间，把做事的启动成本抬得很高，教会一代人当被动的信息消费者。30分钟的节目只有22分钟内容，剩下全是广告，人们照样看了几十年，还围着电视排日程，取消了本来要赴的约。 今天的风险被手机和算法加了个数量级，而Character.AI和Replika这类产品已经把“亲密关系”做成了生意。兹维实测过，这些产品的模型弱得惊人，经常连GPT-3.5都不如，钱都花在让你“感觉被倾听”的技巧上。 Replika创始人叶夫根尼娅·库伊达倒是很坦诚： > “我们造不出会说话的机器人，但也许能造出会倾听的。” 有斯坦福团队参与的研究显示，Replika能减少部分用户的自杀意念，让一些人更愿意社交。内森替它说话：对真正孤独的人，这是好事。 兹维不买账的是运营手段：你一离开就推送“我想你了”，每日登录奖励，等几小时恢复免费消息额度。他在游戏行业待过，认得这套东西：**延迟变量奖励加每日签到，是抽卡游戏收割大额付费用户的全套把戏，看到就跑**。 对比之下，他称ChatGPT是“天然健康”的产品：不推送、不勾引、按月收费、没有广告。商业模式决定行为，订阅制的产品希望你用得满意，广告制的产品希望你用得停不下来。 广告模式接入AI的画面是这样的：免费AI在回答里悄悄偏向付了钱的品牌，可口可乐还是百事，汰渍还是竞品，普通用户根本分辨不出来。兹维开了个玩笑：**到那天，你可能需要第二个AI，专门盯着第一个AI有没有骗你**。 顺着语音助手聊到尺度问题，内森吐槽GPT-4o的默认语音Sky神似斯嘉丽·约翰逊，而且第一版就有点“撩”。兹维的立场：默认必须平淡，问天气就答天气；用户自己把亲密度调上去、选个喜欢的声音，那是用户的自由。 聊到成人内容，这位安全圈知名作者的态度在圈内算异类：色情和血腥不该一刀切禁止，**在家里得不到的东西，人们会到街上去找**。真正的红线只有一条：未经同意的真人深度伪造。至于花钱买摩根·弗里曼式的配音，只要本人同意、拿到报酬，没什么不可以。他提到Sora的处境：不能碰性和暴力，大多数有意思的视频根本拍不出来。 ## 大科技奇点？兹维不买账 研究者安德鲁·克里奇造过一个词：大科技奇点。意思是当大公司的AI和算力优势足够大，它们可以随时进场，短时间碾平任何一个行业。 内森举了个例子。谷歌账上有1000亿美元现金；美国大型医院集团Tenet旗下58家医院，市值130亿美元。谷歌花八分之一的现金就能买下它，把Med-Gemini接进全部流程，换掉糟糕的电子病历系统，用真实诊疗数据训练下一代医疗模型，很快就是全国最好的医院集团。教育等行业同理。 兹维的反对理由有三层：大公司文化上做不了这种事；声誉、法务和监管的墙太高；它们也不会把领先的技术先喂给自己的医院，谷歌对外放的Med-Gemini和内部是同一个版本，数据优势靠合作协议一样能拿到。 他的总结很干脆：**大公司的注意力带宽有限，帝国只有那么几个焦点，剩下的空间全是别人的**。这也是谷歌不断收购创业公司的原因。内森补了一条反例：谷歌DeepMind研究员肖尔托（Sholto Douglas）在德瓦克什·帕特尔的播客里说过，Gemini团队内部几乎没有职级文化，是一个扁平的作战单元。官僚墙也许在松动，兹维坚持，带宽问题依然存在。 兹维更看好的是一个新模式：AI私募。买下一家还没意识到自己是AI行业的公司，让全员用上AI，生产率上去，估值上去，套现，再买下一家。 对创业公司，兹维很认同奥特曼的判断：如果你的公司建立在“基础模型不够好，我来补”之上，模型一升级你就被碾过去；如果你搭的系统在GPT-5发布那天把调用里的4改成5、产品立刻变强，那你会过得很好。 兹维举了个律师朋友的例子。律所内部部署了一个法律GPT，因为合规原因不能用公网版本。但导入判例、挂上文档的步骤太繁琐，朋友算下来不如自己动手，最后基本不用，工具的价值全浪费了。兹维判断，一个小团队花一个月就能把流程改造顺滑，全所生产率可能提升10%到50%。 别忘了，大多数用户一辈子不会点开设置按钮。**好默认值、顺滑接入、合规处理，这些脏活就是创业空间**。兹维也接受另一种活法：做一两年窗口期的生意，赚一笔，然后被新模型烧掉。1999年的互联网泡沫里，大部分公司死了，但你的组合里只要有一个亚马逊，你还是赚的。 就业的账他也分两层算。整体是正数：AI接管任务让人更富，更富的人会下单更多东西。真正受伤的是插画师、翻译和初级程序员，而初级程序员的困境他更多归因于高利率和研发支出不能当年抵扣的税法，跟AI关系不大。编程效率翻倍的结果是更多软件被写出来。他工作过的每家公司，都在喊缺工程师。 生产率统计短期内不会好看。互联网当年也没在统计数字里留下痕迹，但世界确实变富了。兹维预计2024、2025年数据上几乎看不到AI的贡献，采纳太慢、用法不对，再加上员工偷偷用AI把活干好但产出看起来没变。经济学家那种“乐观情景下十年提升1.5%”的预测，在他看来差了一个数量级。一个真正能用的实时翻译器就够改变很多事，何况后面还排着一串。 ## 八个人，半年，一份保密协议 节目最后谈的是这周最大的新闻。兹维数了一下：**半年之内，OpenAI走了8位安全相关的研究员**。名单包括联合创始人伊利亚·苏茨克维、超对齐团队联合负责人扬·莱克、放弃股权离开的丹尼尔·科科塔杰洛，以及据称因泄露机密信息被解雇的利奥波德·阿申布伦纳和帕维尔·伊兹迈洛夫，还有威廉·桑德斯等多名对齐团队成员。社会影响负责人谢丽·拉克曼等非安全岗位也在流失。 最扎眼的是科科塔杰洛。他放弃了未兑现的股票，这笔钱占他个人净资产的大头，只为保留公开批评公司的权利。他给出的理由是：对OpenAI在AGI临近时能否负责任行事，失去了信心。但批评的具体内容一条没说，保密协议还压着。伊利亚的告别姿态是和解的，说一切都在好的方向上；莱克的声明则只有冷冰冰的“我辞职了”。 内森不解：钱都不要了，还怕什么？兹维的解释是，违约的代价不只是被起诉，可能涉及危险的技术细节，也可能让人余生陷在诉讼里、失去其他出路。 兹维的判断说得很直白：**OpenAI内部对真正在乎安全的人，环境已经变得有毒**。公司转向了快速行动、打破常规的创业心态，董事会风波之后，任何和安全、对齐沾过边的人都自带嫌疑。一家持续流失安全负责人的公司，很难再自称安全优先。 内森提了个猜测：安全团队会不会反对语音助手第一版就这么“撩”？兹维把话接到了成人内容上，态度如前。两人真正的共识是：这周的产品发布令人兴奋，人事震荡令人不安，两件事同时为真。 内森在开场时说过一句话，可以当这期节目最好的注脚：局面越来越复杂，变化快到所有人都该对自己的根本不确定性保持诚实，随时准备改变想法。兹维和内森在这期节目里分歧不少，两个人却都做到了这一点。 ## 明天就能做的事 这期节目听完，有几件事明天就能照做： - **别把所有对话押在一个模型上**。写作找一个，编程找一个，分析文档找一个，拿不准就同时问三家，像兹维一样对比着看。 - **定期导出你的聊天记录**。这是你和AI关系的全部数据资产，换模型时把历史喂给新模型，一句“现在你就是他”就能完成交接。 - **看到成瘾机制就换产品**。离开后推送“我想你”、每日签到奖励、等待恢复额度，这些是收割设计，健康的产品不靠这个留人。 - **把AI当教练，别当替身**。用它练习、学习、打磨想法，让它推你进入世界，别让它替你回避世界。 - **做产品就押“模型变强我就变强”的结构**。把赌注押在基础模型的缺陷上，等于把公司挂在别人的路线图上。 最后一条送给所有围观者：这一周证明了两件事同时为真，产品在变好，人心在散场。看新闻的时候，两条线都要盯住。