API用量半年涨14倍，谷歌PM把Gemini的追赶打法讲透了

10月29日美股盘后，Alphabet发完财报，市值一夜多出约1000亿美元。电话会上，CEO Sundar Pichai报了一个数：Gemini API的调用量，六个月涨了14倍。

两天后，谷歌上线了这波更新里分量最重的功能：搜索接地（grounding）。开发者在API调用里传一个工具参数，Gemini就能先查Google搜索，再用查到的最新网页信息组织回答。

Cognitive Revolution这期节目请来了这个产品背后的两位PM，Logan Kilpatrick和Shrestha Basu-Malik（大家叫她Trista）。Logan已经是第三次上节目，自己说在冲击「做客次数纪录」。主持人Nathan Labenz是连续创业者兼AI投资人，当天上午刚花90分钟把Gemini接进自己的应用，问题全是现成的。

先补背景。AI Studio是谷歌给开发者的入口，所有最新的Gemini模型都在里面，注册后点三四下就能拿到API key，直接在网页上试模型、调参数、生成代码。Trista的原话是，他们想要「你能想象到的摩擦最小的体验」。这次的主角grounding，逻辑很直白：模型回答前先去搜，搜完再答。Nathan此前自己搭过类似管道，用Brave的搜索API拿结果，再喂给另一个语言模型做总结。他评价Brave又快又便宜，但试完谷歌的原生方案后，他的判断是，长尾查询的覆盖面，Google搜索大概率还是最好的。他的公司Waymark做的就是长尾小生意的检索，这点他很敏感。把搜索、模型、引用整合进一次调用，省掉的是自己拼管道的全部功夫。

榜单不输，为什么多数开发者还是把Gemini排第三

Nathan把尖锐问题直接摆上桌：各家排行榜上Gemini都稳居前列，功能也齐，为什么它还是多数开发者的第三选择，排在OpenAI和Anthropic后面？他自己就是这样，先接OpenAI，再接Anthropic的Sonnet，最后才试Gemini。他当天翻了LMSYS竞技场，各家旗舰的差距小到快看不出名次的意义，他形容整体竞争接近同分。接入用的是Vercel的AI SDK，全程一个多小时，几乎没遇到坎。

Logan给了一个时间维度的答案：Gemini这个模型2023年12月才发布，到现在还不满一年。而OpenAI的API，按他的说法，2021年、2022年那会儿就存在了。过去一年谷歌在干一件事：先追平生态里的基本能力，再做差异化。Gemini是第一个原生多模态的大规模前沿模型，发布时就带着100万token上下文窗口，今年I/O上1.5 Pro做到了200万。

真正的转折点是1.5 Flash。Logan说，半年前API调用量开始爬升，时间线正好对得上。这款模型把开发者最在乎的几件事，能力、价格、速度，平衡到了一个别人没到的位置。他还有个观察：新东西源源不断的平台，会自动把开发者吸过去。过去半年，实验模型、正式模型、Flash新档位、代码执行，一件接一件地出，开发者自己就会找到出货最快的那个平台。

Trista补了另一半原因，说得很坦诚：忙碌的创业者没时间认真评测每个模型，谁声量大就选谁，方向上总归不会太错。OpenAI和Anthropic的模型确实优秀，话题度也确实高。谷歌能做的，是把评测和最佳实践做简单，让开发者十分钟搞清楚质量、价格、延迟之间的取舍。

推特上现在流行一个梗，说风向变了，vibe shifting。Logan的回应很冷静：

认知的转变要靠很长很长的时间一点点挣回来，这是一个以年计的工程。

过去六个月的进展让他相信方向对，但每一分信任都得继续挣。

一个滑块，两层控制：grounding的细节

这个功能的控制设计分两层。第一层是开关，AI Studio里是个toggle，API里是传一个tool参数。第二层叫dynamic retrieval，一个0到1的滑块，决定开了之后模型多频繁去搜。

调到0，几乎每个问题都触发搜索；调到0.7、0.8，模型只在真正需要时才搜，适合强时效的问题，比如知识截止日期之后发生的事。Nathan拿到手的第一件事，就是用0和1各问了一遍「世界大赛（美国职棒总决赛）现在打到第几场」。不开搜索，模型认为最近一届是2023年的；开了，答案就对了。

还有个细节：开了搜索，答案经常变得更丰满。Trista举例，问「世界上最小的马是什么品种」，模型自己答一个Falabella就完了；开了搜索，会补上平均体型、原产地阿根廷这些信息。

她和Logan当场分歧了一回。问「火星的首都是哪」，模型会说火星没有首都，Logan觉得这是好答案；Trista更喜欢开搜索后的版本，模型会列出一系列写到火星首都的科幻小说。她的态度是，开发者可以按产品调性自己选。

引用是发布的另一个重点。答案里的关键信息带内联链接，底部附来源列表，还附「搜索建议」，也就是能搜出类似内容的查询示例。Trista给的理由有两个：给出版方导流；测试时用户确实喜欢点开链接验证答案。Logan把这事往大了一层说，下一阶段的信任，要靠把引用交到开发者和用户手里，答案能查证、能追溯到有信誉的来源，信任才有地基。

Flash、免费额度和被高估的成本焦虑

Logan推荐开发者去看Artificial Analysis这个网站。LMSYS竞技场测的是模型ELO分，这个网站把价格、延迟一起算进去。结果让他得意：Flash单独占了一个象限，那个象限里没有别人。首token时间和出token速度两项，Flash也在第一梯队。他引了一条在开发者圈流传的推文：

谷歌让开发者不可能不用Flash，这东西的性价比好到没法拒绝。

现在又加了Flash 8B，价格再降一档。

免费额度的数字值得单独记：以1.5 Flash为例，每天1500次请求，而且每次都可以是长上下文请求，算下来相当于每天白拿15亿token。覆盖200多个国家和地区，不用绑信用卡。Swyx之前算过一笔账，说拿一路每秒一帧的视频流持续喂给Flash，都能塞进免费额度。Trista现场还原了算法：100万token约等于1小时视频，每帧258个token，加上元数据约300个，一秒一帧，一小时正好约100万token。

Nathan替谷歌算了另一笔账：YouTube现在一周收入大约10亿美元，送得起入门体验。他自己的邮件处理实验实际上就没花钱，直接掉进了免费额度。真正的障碍在认知。Logan认为行业有个集体记忆错位：两年前百万token大约要30美元，很多人第一次查价格就记住了这个数；两年过去，价格降了99.9%，认知没跟着更新。他打赌，问一千个开发者「用AI贵不贵」，绝大多数会说贵。

Nathan给了个更狠的算法。他劝人做AI项目时常说，相比人工，AI应该帮你省下90%的成本；剩下要花的10%里，九成是研发和人力，真正花在推理上的大约1%。他自己的实验能对上：把五年的邮件全部处理一遍，1200万到1300万token，花了约1美元。

他由此提了个概念，叫奢侈品软件（luxury software）。比如做一个每天替他读完arXiv全部新论文的应用，每次调用塞进5万到10万token描述他的兴趣偏好，一天筛100篇，算下来也就1美元。以前不敢想的信息处理规模，现在便宜到可以随便试错。顺带一提，这种每次都带一大段固定背景资料的用法，该用context caching：把这段内容存起来，之后只付很低的存储费和增量token费。这个功能谷歌是第一家推的，Anthropic和OpenAI现在都有了自己的版本，三家都在按开发者反馈迭代。

还有一个数据点。Logan引了个统计，说目前只有五分之一的开发者在真正用AI构建，他猜主因是起步的经济成本；Nathan半开玩笑补了一句，可能固执比成本更难对付。

谁在用Gemini，用来干什么

财报和博客点了两个名字：Snap在用；保险公司Hiscox用Gemini处理复杂风险的报价，原来要几天，现在几分钟。两位PM自己最爱举的案例是这些：

• New Computer做了个叫Dot的AI伴侣，目标是「了解一个人」。他们用Flash把用户每天的对话压缩成可检索的记忆对象，日积月累拼出这个人的完整画像。选Flash就两条：上下文够长，价格够低。
• Envision做视障辅助，帮低视力人群理解周围环境。这类场景对延迟极度敏感，Flash的出字速度是关键。
• Locofy把Figma设计稿转成代码。前端设计稿动辄几百个图层，他们用1.5 Pro的百万token上下文先把设计稿重新整理、重命名，再喂给自己专有的代码生成模型。
• tldraw用Gemini的多模态能力做下一代画布交互，Logan说这是他最乐意看到的、把LLM用户体验往前推的例子。

Logan从创业者视角补了一个判断：文本场景已经有一千零一家创业公司在卷，原生音频、视频、图像理解的规模化应用，还是几乎没人占的空地。想去人少的地方，就去能力的边界。

多模态微调被问了很多次，答案是在路线图上。不过文本微调刚放开限制，微调出的模型可以直接用API key调用，此前只支持OAuth。Logan顺带回忆了自己的职业起点：他早期的工作就是训练特定领域的视觉模型，跑数据清洗、做迭代，一训一年。他的判断是，当年花一年训出来的那些专用视觉模型，今天的基础模型开箱就能干。仓库和工厂里已部署却看不懂画面的监控系统，养老院跌倒检测这种因为太贵而没做起来的场景，都在被基础模型重做一遍。Nathan补了个细节：老人讨厌戴跌倒监测手环，摘了手环再摔倒的事常有，摄像头加Flash，一分钟内发现跌倒，是真的能救命。

三个桶：谷歌怎么想竞争

Nathan把当下格局总结成一句：OpenAI有o1系列啃硬推理题，Claude独家会操作电脑，Gemini握着最长上下文加刚发布的搜索接地，Meta有开放权重。他还提了个更大的疑问：按「柏拉图式表征假说」的推法，足够强的模型最终会逼近同一个世界表征，各家能力迟早趋同；现实却是各家各攥着一张独家牌。谷歌怎么想？

Logan的观察是，开发者的预期就是能力会扩散，谁出了新东西，大家马上问「这家什么时候有」。谷歌的策略是保住开发者期待的基础盘，然后拿别人没有的东西做净差异，而那些东西恰好都长在谷歌独有的家底上：大规模基础设施，还有搜索。

Trista把路线图拆成三个桶。第一，学生态里别人的优秀工作。第二，做只有谷歌拿得出的东西，除了搜索接地，还有Vertex里能直接喂YouTube链接这类能力。第三，最无聊也最重要的API基本功：报错信息要清楚，支持要到位，限流要合理，价格要低到没有任何开发者因为钱放弃接入。

她举了个具体教训：代码执行。别家把代码执行做成了默认端点里的一个开关，开发者不用为它换一个特殊版本的API。谷歌看懂了这一点，代码执行和这次的搜索接地都照此办理，普通请求里传个tool参数就行。

也有故意不一样的地方。结构化输出，OpenAI的版本默认所有字段必填，Gemini默认全部可选、开发者自己标记required。Trista提到，OpenAI的Michelle Pokrass在播客里讲过，他们内部为此权衡了很久，想确保开发者拿到的输出字段齐全。Gemini选了另一边，理由是JSON本身的语义就是字段默认可选。两种设计各押一头：一边保输出完整，一边贴语言直觉，谁对要等开发者用脚投票。Nathan说，这是他整个接入过程里唯一犯迷糊的地方，除此之外全程顺畅。

还有一个入口问题。Nathan观察到不少人想用Gemini，一头扎进Vertex就迷路了，网上抱怨不少，Logan常年在线纠正各种误解。Nathan的建议很直接：做原型、做概念验证，去AI Studio，那里的体验跟OpenAI和Anthropic的开发者产品打平，某些地方还占优。

明天就能用上的几件事

这期节目的信息可以直接变成一张清单：

• 选模型别只看竞技场ELO榜，去Artificial Analysis把价格和延迟一起算。Flash目前独占一个性价比象限。
• 清掉两年前的价格记忆，重新算推理成本。按Nathan的经验值，推理费大约只占AI项目总开销的1%，大头是研发人力。
• 免费额度先跑通再谈花钱：1.5 Flash每天1500次请求、约15亿token，不用绑卡。固定背景资料丢进context caching，成本还能再压。
• grounding的dynamic retrieval滑块按场景调：强时效问题调低让模型多搜，静态问题调高省调用。
• 找创业方向时避开文本红海，去看原生音频、视频理解、实时监控这些还没挤满人的多模态场景。
• 做原型直接去AI Studio，三四下拿到key，别在Vertex里迷路。

Logan在节目最后说，认知的转变要花很多年去挣。从数字上看，过去六个月他们挣到了一些。剩下的，看下一个半年。