500万亿token一个月，人均5万：Google 一年翻50倍，Logan Kilpatrick 拆解背后发生了什么

2025 年 5 月 15 日到 22 日这一周，Google I/O 前后，AI 模型和产品密集发布，Nathan Labenz 在播客开场开玩笑说，这期节目干脆叫「2025 年 5 月 15 到 22 日这十年」。

比发布清单更硬的数字来自 Logan Kilpatrick：Google 现在每月处理 500 万亿 token。一年前他刚加入 Google 时，这个数字是 10 万亿。涨了 50 倍。摊到地球上每个人头上，相当于每人每月 5 万 token。

Logan 在 OpenAI 做过开发者关系，后来去 Google 一年出头，这是他第五次上 Cognitive Revolution。这一集里他讲了 Google 内部的组织重组、为什么他认为领先公司会走向分化、创业者现在最好的机会在哪、Windsurf 被 Anthropic 断供怎么看、长上下文和扩散模型两个被低估的变量，以及他为什么仍然押注人类视角。

50 倍增长背后，先是一场组织手术

Logan 说，50 倍这个数字的核心是一个关于人的组织故事，这个故事上不了纽约时报头版。

历史上 Google 有多个 AI 团队各自追不同目标。Google Brain 做非常广泛的研究，Transformer 就是从这种广度里出来的。Google Research 做一些更应用的东西，往 Google 其他部门输送。DeepMind 在 Demis Hassabis 带领下押一条更具体的通往 AGI 的路线。在技术路线没明朗的时候，同时下多注是合理的。

后来一条路在短期跑通了，就该集中资源。2023 年中，Brain、Research 的一部分和 DeepMind 合并。Logan 说，这是 Google 为接下来十年做准备的起点。

难的是大系统重组。涉及的人多，复杂度和混乱程度容易被低估。训练大模型要花很久，迭代周期慢，发模型、做端到端的循环也快不起来。OpenAI 在此之前把迭代循环跑得更熟。同时还要扩 TPU，研究要用，推理也要用，硬件不会凭空出现。

Logan 说，在所有这些约束下，Google 现在的位置已经很好。他更看重各个维度改善的斜率：团队怎么协作、广泛研究怎么回流到 Gemini 主模型、基础设施怎么保持领先、发模型的迭代循环怎么建立。DeepMind 还完成了从基础研究机构到做产品机构的转变，Gemini app、开发者工具，这些会反过来影响模型怎么训。

Nathan 顺手对比了 Meta：同样有算力、有多年多方向的研究，但没看到同样的重组和整合，推理这条线也没跟上。Logan 没有直接评论 Meta，只补充说 Google 从 2016 年 Sundar 接手起就自称 AI 公司，Transformer 早就在搜索里服务数十亿用户，做模型、部署、建基础设施是 Google 的 DNA。另一个关键是激励：Google 所有产品都受益于更好的模型，Docs、Sheets、Waymo、YouTube、Cloud，模型不是附加项，是这些产品成功的基础。

低垂果实摘完了，Logan 押注分化而不是收敛

Nathan 问，领先公司会继续在同样的排行榜上趋同，还是开始分化？

Logan 说他会押分化。几天前他跟一帮创始人吃饭，很多人押模型收敛。他的判断是低垂果实已经被摘完，接下来拼结构性优势，基础设施是其中之一。到下一个台阶对很多团队都不容易，世界级团队和对这件事下重注的人才会显出优势。

他还说，AI 创新不会变得更容易，往后只会更难。可能有些实验室会选一条窄路，比如有人专注做世界上最好的编程模型，其他都不管。这跟大实验室的广泛使命有冲突，但对很多训练基础模型的公司，找到自己真正擅长的方向、建立差异化视角，是合理选择。

Nathan 说自己不愿意在今天做二线基础模型训练者，从 DeepMind 的位置说这话容易，从别的位置看很难。Logan 没接这个话茬，转头讲了应用层。

应用层创业的窗口，速度和专注

Logan 的原话值得整段引用：

人类历史上没有比现在更好的创业时机。如果你要训语言模型跟大实验室竞争，你最好有非常充足的资本，因为这是极难的问题。如果你做应用层，门槛从没这么低过。

他补充说，大公司因为安全、隐私、企业合规要求，用不了一堆现成工具，工具创新的速度也慢一些。创业者有速度优势，还有专注优势。Google 里同时有一百万件创新在发生，这是好事也是负担，你得从中做取舍。创业公司只有一件事，不用做很多决定。

Nathan 提到 Shortwave 创始人 Andrew Lee 说过，深思之后结论是「我们唯一的优势是速度」。Logan 补了一个词：专注。

关于竞争，Nathan 提到 Cursor 当天刚宣布年化收入 5 亿美元。Logan 说 Jules 还很早期，团队很棒，但其他 AI 编程产品的采用量完全在另一个量级。他顺势讲了自己的判断：未来每个人都会有一堆 agent 帮忙做事，应用层能做的事有一千零一件，大产品用很通用的方式解决一些问题，创业者可以扎进某个具体用户群，用独特方式解决他们的问题。

Windsurf 被断供，Google 为什么不这么做

Nathan 问 Windsurf 的事。Windsurf 跟 OpenAI 达成交易，Anthropic 切断了它的 Claude 供应。

Logan 说他对这个做法有同理心。把算力投给长期合作伙伴，这个说法说得通。正常商业策略，不支持竞争对手，也可以理解。

Google 这边为什么不这么做？他说 Google Cloud 是全球第五大企业业务，使命就是把基础设施带给全世界，让人不用重建 Google 级的基础设施就能创业。这个战略挪走的可能性很低。

他还给了一个反直觉的细节：Google 内部团队用新模型反而更慢。Workspace 有些功能有 1.5 亿月活，换模型要做大量评测，要保证行为不漂移，要花时间。小产品切模型很容易，十亿用户的产品不行。所以外部开发者在模型速度上常常比内部团队还有优势，这个结构短期内不会翻转。

Nathan 提到 Daniel Kokotajlo 的 AI 2027 场景，预测模型开发者会拉开差距，把最好的模型留给自己，公众只能拿到次一等的。Logan 不认同。他说评测本身太难，不发布就拿不到信号，不知道模型长期行不行；发模型还涉及势头之争，开发者选平台时很看这个；再加上切换成本很高，很多层因素都指向同一个方向，模型会继续像现在这样交付给世界。

长上下文和扩散模型，两个被低估的变量

Nathan 讲自己用 Gemini 2.5 Pro 处理四五十万 token 的研究代码库，来回调试，别的 provider 根本不支持这么长的上下文。Logan 说长上下文是当前模型差距最明显的地方之一。

OpenAI 的 MRCR 评测，8 needle 最难版本，最新版 2.5 Pro 领先大约 20%。一年前的 1.5 Pro 单针接近 100%，问题出在多针，一加就指数衰减。过去一年长上下文创新不多，这次提升明显。

推理和长上下文在融合。Logan 说 Jack Rae 领导推理团队，最早做长上下文，两人聊过很多。正是推理让你能把整个上下文窗口真正用起来。他还观察到请求分布变了，长上下文的使用量比历史上高很多，人们开始往上下文窗口里塞越来越多东西。

一个可操作的小实验：Logan 写了个 Colab notebook，从 Gmail API 拉「我发出的」邮件，数据不离开 Google，一百万 token 以内能装下很多年的邮件，然后问模型关于你的问题，看它理解得多准。

扩散语言模型。Logan 说速度极快。Nathan 说这比自回归更符合他自己的思考方式，先模糊地有整体，再分段，再逐句。如果两年后扩散范式赢了，他不会意外。Logan 说很多问题还开放，成本、质量、性能权衡都不清楚。假设成本和质量接近，这个速度能撑起真正的个人生成式 UI，token 快到在人眼一眨间渲染出来。编辑类任务也很适合扩散。Veo 3 API 还在准备，API 规模和消费级高价产品的规模不是一个量级。

AGI 会是一次产品体验，人类视角仍然值钱

Nathan 问离 AGI 还缺什么。Logan 说记忆是一个，然后给出他的核心判断：AGI 会是一个产品体验。

不会有人发布一个模型然后所有人说这就是 AGI，何况每个人定义都不同。更可能是某人把模型、长上下文、推理、记忆用正确的方式组装起来，产品做得很用心，很多人会在那个时刻觉得 AGI 来了。模型可能只需要比今天好 50%，长上下文好 50%，推理好 50%，剩下的是产品工程。

Logan 讲自己的习惯：所有邮件、推文、工作内容都自己写，95% 的情况不用 AI 助手。他要对以自己名义发出去的东西保有自主权。

Nathan 担心 NotebookLM 在吃掉他听播客的时间。Logan 的回应是搜索和 AI 聊天解决不同问题，搜索查询量还在涨。他听很多播客就是想听某个人怎么说，这个需求不会被替代。他的论点：人们想要 Nathan 的体验。世界能生成一千个类似的播客，人们还是要你的视角。

Nathan 提到 Sergey Brin 在 I/O 的 fireside chat 上被问未来五到十年网络会怎样，差点把咖啡喷出来，说不知道未来五到十年世界会怎样。做前沿的人也没有水晶球。

明天就能用的几件事

• 给 Logan 发邮件，lkilpatrick@google.com，说清楚你在做什么，申请早期访问。他自己在节目里把邮箱给出来了。
• 翻一遍你的产品管线，找出那些因为模型不够好而堆了很多脚手架的地方，用最新模型试一次，能删就删。NotebookLM 的音频概览从 14 步降到 4 步，这个循环会反复发生。
• 用 Logan 的 Gmail Colab 思路，把一百万 token 以内的个人数据喂给 2.5 Pro，感受一下长上下文现在的水平，顺便看看模型怎么理解你。
• 创业者把范围收窄到一件事，把速度和专注当护城河。大公司有一百万件创新同时发生，这是它们的负担。
• 关注扩散模型。如果速度优势成立，生成式 UI 类产品值得提前想。