百万 token 输入 10 美分:Gemini 2.0 Flash 转正,谷歌还押注「世界最佳编程模型」
Gemini's Next Frontier: 2.0 Flash, Flash Lite Strategy & Real-Time APIs with Logan K from Google Deepmind
Google DeepMind 产品经理 Logan Kilpatrick 介绍 Gemini 2.0 模型、Flash Lite 策略与实时 API 对开发者的意义。
每月 4 到 5 万美元的大模型调用账单,换成 Gemini 2.0 Flash,大概率能压到 1,000 美元以内。40 倍的差距,出自谷歌 Gemini API 产品负责人 Logan Kilpatrick 之口,时间点是 2025 年 2 月 6 日,2.0 Flash 转正当天。
这一天谷歌的动作很密:2.0 Flash 从去年 12 月的实验版升级为正式版,价格定为输入每百万 token 10 美分、输出 40 美分;更小的 Flash Lite 开启预览;目前最强的 2.0 Pro 以实验版身份放出。加上此前的 Flash Thinking 推理模型,四个档位一次凑齐。
Logan 是本期 Cognitive Revolution 播客的嘉宾,这已经是他第四次上节目,刷新了主持人 Nathan Labenz 的纪录。他加入谷歌才 10 到 11 个月,此前在 OpenAI 做开发者生态,现在管着 Gemini API 和 AI Studio,算是谷歌递给开发者的一张脸。
一个多小时的对话,干货密度很高,挑重点讲。
DeepMind 重组:研究和产品终于坐进同一间屋
Logan 入职第一天就和 DeepMind 密切协作,但过去三个月,结构变了。Gemini 应用、AI Studio、Gemini API 先后划入 DeepMind,这个曾经的纯研究部门,现在端到端包办研究、造模型、做产品全流程。
Logan 的判断很直接:让最懂模型能力边界的研究员离产品更近,摩擦越小,模型和产品的进步都会加速。这是他给外界的主要承诺。至于谷歌内部怎么改组,用他的话说,全世界大多数人根本不关心。
发布日清单:四款模型,各管一段
先说最实用的部分,四款模型像同一张菜单里的四档套餐:
- 2.0 Flash:性价比主力,输入 10 美分、输出 40 美分每百万 token,已可商用。
- Flash Lite:更小更便宜,预览版,很快转正。
- 2.0 Pro:实验版,谷歌当前最强的前沿模型,价格未公布,但明确会更贵。
- Flash Thinking:推理模型,负责啃硬骨头。
额度同样值得看。免费层每分钟 10 到 15 次请求、400 万 token;付费层取消每日上限,默认每分钟 2,000 次请求、400 万 token;当晚午夜起开放更高档位,最高每分钟 1 万次请求、1,000 万 token。Logan 说了句大实话:大多数人根本撞不到天花板,真正会被限流的是跑内部评测的和做排行榜的。
Flash Lite 的存在理由,Logan 讲得很坦诚。1.5 Flash 当年卖 7.5 美分每百万 token,2.0 Flash 涨到了 10 美分。模型更强,账面上说得过去,但谷歌不想让「谷歌涨价」变成新闻标题,于是补了一个和 7.5 美分对齐的选项,保住那些靠极低成本活着的业务。像奶茶店不肯动经典款的价格,宁可另推一款简化配方,也要留住老客。代价是 Flash Lite 永远不会支持原生图像和音频生成,砍掉高端功能换低价。
别嫌小模型没排面。此前的 Flash 8B 一度是 OpenRouter 上调用量最大的模型,而调用量是衡量真实使用的合理代理指标。Logan 的结论:开发者对低价模型的爱超出想象,成本每往下压一档,就解锁一批新用例。他说,要是技术上能做出更便宜的模型,他自己也会推。
至于网上那些调侃谷歌模型命名混乱的梗图,他全看到了。他的回应是:模型变体实在太多,生产环境的算力有限,只能挑着转正,理想状态当然是每个模型都开放,但账不是这么算的。
Ultra 去哪了:大模型也要算性价比
一个外界疑惑很久的问题:Gemini 1.0 时代有 Ultra 这个最大号档位,现在怎么只剩小号和中号了?Anthropic 的 Opus 也面对过同样的追问。
Logan 给的答案很实在。Ultra 当年的任务是证明规模化这条路走得通,任务完成了。然后创新速度追了上来:现在的 Flash Lite,大概率已经比初代 Ultra 更强。
继续堆最大号的账不好算。假设一个 Ultra 每项基准只比 Pro 好 5%,体积大 5 倍、成本贵 5 倍,研究精力和算力该往哪投,答案不难选。何况推理模型那边还有大把低垂的果实。他补了一句:谷歌仍在继续扩大预训练规模,是否正式发布 Ultra,是个开放的技术研究问题。真想玩文字游戏,把 Pro 改名叫 Ultra 也行,但那背离了这个名字的本意。
这期播客里最有分量的技术判断,藏在他和 Jack Rae 的闲聊里。Jack Rae 此前是 Gemini 长上下文突破的研究主力,现在是推理模型的负责人之一。长上下文的真正钥匙,可能是推理。
长上下文很惊艳,200 万 token 和 20 万 token 的差距在某些场景确实关键。但模型有个天生限制:注意力能同时照顾住的东西有限。问上下文里两三件事,表现很好;想把 200 万 token 里的 1,000 件事拼到一起,就非常吃力。推理模型会一步步想,未来还能调用工具,把信息搬进搬出上下文。长上下文的价值,要到那时候才真正兑现。
Nathan 的体感佐证了这一点。他开发应用时总想要思考最深的模型,宁可费劲压缩输入塞进上下文,也舍不得把 10 倍的资料倒给一个马上跳到答案的模型。原因他一直没想明白,听完这番话对上了。
顺带一提,Jeff Dean 在去年 I/O 上说过未来会有无限上下文,Nathan 和 Logan 当时就在同一个会场。Logan 的态度:实现那天会是巨大的解锁。
编程,是谷歌必须赢的战场
「我们会在谷歌做出世界最好的编程模型。」
这是 Logan 在 o3 发布前一天发的推文。播客里被问起,他毫无退意:我至今深信不疑,Pro 会成为那个模型,推理方向的工作会持续把编程能力往前推。
为什么死磕编程?他的逻辑链很清楚:text-to-app 这个趋势会继续加速,软件工程的生产力革命才刚开头,编程就是模型厂商的必争之地。
Text-to-app 也是他眼下最兴奋的方向。Bolt.new 刚上线 Gemini 支持,Cursor 已经在用 2.0 Flash,他期待 Lovable 和 v0 跟进。这类产品的经济学很残酷:用户拿一段提示词换一个能跑的应用,看起来免费,背后的模型账单是真金白银。知道这个玩法的人现在还很少,等大众醒过来,成本结构会决定谁活下来。
这里有个反差观察。都说每次前沿模型升级,YC 那批公司就有一部分产品突然能用了。Logan 的补充很微妙:YC 公司融资太多,智能降价对他们根本无感,真正的受益者是没有顶级风投撑腰的个人开发者。大厂每把价格打下来一截,权力就往个体手里转移一截。
他还重申了一条传统但有效的路径:先上最强的模型,哪怕贵,把用例跑通,再逐步换小模型、做微调把成本降下来。Pro 就是给这个阶段准备的,200 万 token 上下文,未来可能更长。
选模型像开盲盒,Logan 自己也翻过车
聊到怎么选编程模型,Logan 讲了个自黑的故事。前几天他写网页,卡在一个给表格加圆角的小问题上,环境里一堆奇怪的限制,用 Gemini 怎么都过不去。他烦了,心想是不是 Gemini 就这水平,转头打开 Cursor 换 Claude 试,一次通过。
他开始到处吐槽,说编程能力得继续加强。然后为了求个心安,回去用 Gemini 重跑了一遍同样的提示词,也过了。
问题出在哪?他自己的提示词写得太烂。换环境等于跳出原来的迭代循环,从头把问题和上下文重新组织了一遍,两个模型就都做对了。
今天大多数人选模型,靠的就是这种氛围感,一场毫无结构可言的非正式实验。Logan 说他跟很多把 LLM 用在生产环境的团队合作过,你敢信,多少产品手里根本没有几条像样的评测。
Nathan 交出了自家的底:他所在的 Waymark 做 AI 视频生成,「什么算好视频」这个问题至今没有程序化的答案。用模型当裁判,又掉进镜子迷宫。他们只能检测结构性失败,比如没按要求来、太长了,他管这些叫「不能踩的红线」。再往上,就只能靠专家示范,让创意团队写一堆好样本,拿去微调或者塞进 few-shot,剩下的交给感觉。
Logan 开出两个药方。第一,这个世界需要一个平台,把所有公开的基准测试和排行榜聚到一处。他自己干这行,每天醒着都在看这些东西,照样觉得难追踪:这里 20 个随机基准,那里 50 个,还散落各处。他把这当成一条 YC 式的创业号召,谁做出来谁功德无量。第二,Kaggle 正在推「个人评测」:你建好自己的评测集,以后每个新模型发布,评测自动在后台跑一遍,邮件告诉你这个新模型值不值得你花时间。
Nathan 补了一个实用主义方案:让用户自己选模型。现在很多产品已经有模型下拉菜单了,GitHub Copilot 两年前只有 GPT,现在 Gemini、Claude 随便挑。用户的选择本身就是数据。
Logan 顺势反驳了一个流行论调。都说模型在商品化,差距在缩小,他不同意:基准分数接近的模型,实际用起来差异依然显著。他拿 DeepSeek 举例,基准成绩和一线模型相仿,但行为风格明显更接近基座模型,文笔时常惊艳,行为打磨却远不如西方头部厂商的产品细致。这些水面下的差异,才是产品体验的胜负手。
实时视觉、代理互联网,和下一波创业机会
去年 12 月预览的多模态实时 API,是 Logan 眼里「AI 未来该有的样子」:模型能看着你的屏幕,跟你实时对话协作。现在的限制很诚实:单次会话只有 10 分钟,成本压不下来,记忆和状态的维持都是硬骨头。
但用户已经跑在了产品定位前面。这个本来给开发者做演示的功能,收到了两个极端方向的反馈:一头是拿它辅助写代码的开发者,另一头是盲人用户,靠它导航日常生活。一个 API 的演示产品,成了某些人的眼睛。
Nathan 的例子更生活化。他给孩子们买了任天堂 Switch,玩《马里奥 64》卡关时,开着语音模式把屏幕给模型看,问目标是什么、星星在哪。他一岁的孩子已经学会抢手机跟 AI 说话了。从打字给机器,到机器随时陪在身边,中间隔的就是实时多模态这一步。
被动视觉是 Logan 押注的另一条线。有人问 Nathan:能不能用视觉语言模型盯着工厂车间抓安全事故?能不能看着养老院里的老人,替代他们死活不肯戴的跌倒监测器?Logan 兴奋了。他前职是机器学习工程师,做过监控摄像头的目标跟踪,让系统在画面之间保持「这个人还是这个人」,传统计算机视觉做起来极其痛苦。视觉语言模型天生擅长这个,Flash 又把成本打了下来。AI Studio 的入门应用里就有边界框(bounding box)示例,上传图片就能标出物体位置,效果接近开源的专用检测模型。
他把话放得很开:整个建立在专用视觉模型上的生态,都等着视觉语言模型重新洗牌。下一波 YC 公司会冲进这些行业,用通用模型替代定制方案,成本差一个数量级,还能解锁旧方案根本做不到的灵活用例。
创业方向他还点了几个名:
- 代理会改写互联网的规则:网站不能再默认访客只有人类,互联网的社会契约没为代理设计过。网站如何跟代理对话、如何归因、如何分到价值,都需要新公司来解。Nathan 提到他最近在关注 Payman,一家专门做 AI 代理支付的初创公司。
- 推理是代理的钥匙:现在大量代理公司的产品跑不通,未来两年推理带来的突破,比其他任何进展都更能让这些产品真正可用。
- 微调被严重低估:Logan 自称对微调极其看好,未来人人都会用自己的微调版本。2.0 Flash 暂时不支持,1.5 Flash 的微调限制一堆,连图片都不行,他承认这块必须补课。
- 评测是元问题:钻进评测这个兔子洞之后,他的结论是,人生里的大多数问题,最后都是评测问题。
强化学习也被问到了。谷歌发布推理模型时走低调路线,很少提 RL,跟别家高调宣布「我们做了强化学习模型」画风不同。Logan 的回应:RL 当然是推理模型的一部分,低调只是发布习惯,接下来谷歌会多讲这个故事。谷歌内部的推理叙事,是他最兴奋的方向之一,进展巨大,突破一堆。
明天就能用上的几件事
- 把 Gemini 2.0 Flash 记进备选清单:输入 10 美分、输出 40 美分每百万 token,付费层每分钟 2,000 次请求、400 万 token,没有每日上限。高吞吐场景先试它。
- 手里跑着大额模型账单的团队,算一算换成 Flash 能省多少。按 Logan 给的参照,40 倍的压缩空间值得做一次迁移测试。
- 别只看跑分。花半天在 AI Studio 的 compare 模式里,用你自己的真实任务横评 2.0 Pro、Flash Thinking 和竞品。Logan 的翻车故事证明,同一提示词换个写法,结论可能整个翻转。
- 开始攒你的个人评测集。哪怕只有 20 个真实案例,也能在每次新模型发布时快速过一遍。一次性投入,长期复用。
- 做视觉相关产品的,去 AI Studio 试试边界框示例应用,再评估一下用通用模型替代专用视觉模型的成本账。
- 选型策略照旧:先用最强的模型把产品跑通,再往下换小模型压成本。顺序反了,容易把时间耗在调试弱模型上。
结尾一个花絮。有网友在 Logan 的推文下留言:
「我想念以前的 Logan,他以前每条回复都回。」
他去查了自己每周花在推特上的时间,结论是时间不够用了,得靠代理。连谷歌 API 的门面担当都需要代理来处理信息流,这个细节,比任何基准测试都直观。
In this episode of the Cognitive Revolution podcast, Logan Kilpatrick, Product Manager at Google DeepMind, returns to discuss the latest updates on the Gemini API and AI Studio. Logan delves into his experiences transitioning to DeepMind and the restructuring within Google focusing on AI. He highlights new product releases, including the Gemini 2.0 models, and their implications for developers. Logan also touches on the future of AI in text-to-app creation, the impact of reasoning and long context in models, and the broader industry trends. The conversation wraps up with insights into fine-tuning, reinforcement learning, vision language models, and startup opportunities in the AI space.
SPONSORS:
Oracle Cloud Infrastructure (OCI): Oracle's next-generation cloud platform delivers blazing-fast AI and ML performance with 50% less for compute and 80% less for outbound networking compared to other cloud providers. OCI powers industry leaders like Vodafone and Thomson Reuters with secure infrastructure and application development capabilities. New U.S. customers can get their cloud bill cut in half by switching to OCI before March 31, 2024 at https://oracle.com/cognitive
NetSuite: Over 41,000 businesses trust NetSuite by Oracle, the #1 cloud ERP, to future-proof their operations. With a unified platform for accounting, financial management, inventory, and HR, NetSuite provides real-time insights and forecasting to help you make quick, informed decisions. Whether you're earning millions or hundreds of millions, NetSuite empowers you to tackle challenges and seize opportunities. Download the free CFO's guide to AI and machine learning at https://netsuite.com/cognitive
Shopify: Shopify is revolutionizing online selling with its market-leading checkout system and robust API ecosystem. Its exclusive library of cutting-edge AI apps empowers e-commerce businesses to thrive in a competitive market. Cognitive Revolution listeners can try Shopify for just $1 per month at https://shopify.com/cognitive
CHAPTERS:
(00:00) Teaser
(00:54) Introduction and Welcome
(03:56) The Future of Text App Creation
(05:15) Multimodal API and Real-World Applications
(10:37) Sponsors: Oracle Cloud Infrastructure (OCI) | NetSuite
(13:17) The Evolution of Long Context and Reasoning
(19:19) Vision Language Models and Passive Applications
(21:50) New Launches and Future Prospects (Part 1)
(28:35) Sponsors: Shopify
(29:55) New Launches and Future Prospects (Part 2)
(31:55) Flashlight Models and Cost Efficiency
(34:36) Pro Models and Frontier Applications
(39:52) Evaluating AI Models
(48:57) Fine-Tuning and Reinforcement Learning
(51:42) Opportunities for Startups
(55:52) Conclusion and Final Thoughts
(56:59) Outro
SOCIAL LINKS:
Website: https://www.cognitiverevolution.ai
Twitter (Podcast): https://x.com/cogrev_podcast
Twitter (Nathan): https://x.com/labenz
LinkedIn: https://linkedin.com/in/nathanlabenz/
Youtube: https://youtube.com/@CognitiveRevolutionPodcast
Apple: https://podcasts.apple.com/de/podcast/the-cognitive-revolution-ai-builders-researchers-and/id1669813431
Spotify: https://open.spotify.com/show/6yHyok3M3BjqzR0VB5MSyk
PRODUCED BY:
https://aipodcast.ing
本集资源与出处
- 视频在 YouTube 收看
- 音频节目 MP3 直链来自官方播客 RSS
- 订阅Apple Podcasts
- 官网节目官方页面
- 文本精读 Markdown 版便于引用与 AI 读取


