No. 233·精读

不到10美元,AI独立推出了人类实验室还没发表的答案

New in Nature: Google Agents Beat Human Doctors, Make Scientific Discoveries – With Vivek Natarajan and Anil Palepu

Google DeepMind 的 Vivek Natarajan 与 Anil Palepu 谈 AMIE 与 Co-Scientist:两者在诊断准确率和治疗建议上已胜过人类医生,AMIE 即将在哈佛开展临床试验。

节目音频00:00 / 1:24:57
中文精读由 AI 基于原始访谈改写,非官方翻译,可能存在偏差或错误;表述以原节目为准。

2024年感恩节前几天,伦敦帝国理工学院的两位科学家给谷歌发去一道私藏考题。他们的实验室刚在细菌耐药机制上拿到实验结果,论文还没投出去,这个答案全世界只有他们自己知道。他们想试试谷歌的AI系统能不能推出来。

系统跑了几天,交出头号候选机制。对方看完,十分钟内回了封邮件:我需要马上和你通话。电话里他连问两个问题,你们是不是读了我的邮箱?是不是ChatGPT把结果泄出去了?两个都被否定之后,他承认,AI给出的答案和实验室几个月的实验结论完全一致。他还补了一句,另外四个候选假设也都说得通,已经安排博士后去验证。

这套系统叫Coscientist,出自谷歌DeepMind,成果发表在《自然》期刊上。整个推理过程消耗的token不到1000万,按谷歌云牌价折算,一次完整查询的成本不到10美元。

这期Cognitive Revolution播客请到的就是背后的两位研究者,Vivek Natarajan和Anil Palepu。主持人Nathan Labenz是创业者兼AI投资人,他开场强调了一点:这些成果没有用任何谷歌独有的预训练或后训练,靠商用模型、提示词和agent设计就能复现,谷歌的API客户照着做也行。换句话说,门槛已经降到了普通开发者脚下。Nathan的自我评估也很直白,读完这几篇论文,他觉得是时候承认,AI可能已经明显比他聪明了。

AI医生的第二关:治疗方案也赢了

先说医疗这条线。AMIE,全称Articulate Medical Intelligence Explorer,是谷歌的医疗对话智能体。一年前它就上过头条:在标准化病人(演员扮演、按剧本问诊)的文字聊天里,AMIE的诊断准确率超过人类全科医生,评判者是另一批不知情的人类医生。

新论文往前走了一步。真实门诊里,医生第一次见病人很少能当场确诊,更常见的任务是开对检查、给出方向,再在多次复诊里管理病人。这次考的就是这个:从诊断推理,到检查安排,再到治疗方案,AMIE的建议质量全面超过初级保健医生。

另一组研究把战场扩到专科。心脏病学、肿瘤学两个领域,AMIE超过了专科培训医师(fellow),逼近但还没追平主治医师(attending)。Anil提醒了一个细节,这项研究用的是Gemini 1.5 Flash,之后模型已经更新了两代。

Vivek最看重的发现藏在心脏病学论文里。AI和人类医生犯错的类型不一样,而且高度互补。单独对比,心内科医生和AMIE互有胜负,难分高下。可一旦让医生带着AMIE的评估结果工作,对比医生单独执业,几乎每一项指标都是压倒性胜出。

Anil给这项工作找的现实依据很扎心:在美国,约神经科会诊要排12到18个月。他还抛出一个更大的问题:人类分科,是因为大脑装不下所有知识,AI没有这个限制。未来的医疗还要不要科室墙?口袋里装一个全科医生,顺便再装一个专科医生,技术上已经不远。

为什么不用多模态?Anil的解释是研究方法问题:一次只隔离一个变量,加了图像就多了混杂因素。相关组件早就有,多模态版AMIE很快会来。Vivek还透露了下一步方向:把建议锚定到公认的临床指南和药品说明书上,让输出更可执行,同时把单次问诊扩展成跨多次就诊的长期管理。

限定条件也得说清楚。这些成绩全部来自模拟问诊,病人是演员,交互是纯文字。Vivek说,真病人不按剧本走,结果能不能迁移到真实世界,正是他们接下来要验证的事。

AI科学家的三道考题

Coscientist是一个多智能体系统,人类可以在流程任何一步介入给反馈,也能让它全自动跑。团队给它出了三道难度递增的题。

  • 药物重定位:给已有的药找新用途,任务有边界,可以组合式穷举,最像人能啃动的题。
  • 治疗靶点发现:钻进病变细胞,找出能用药干预的因果环节。Nathan说这是生物学的重大难题,细胞里的因果图谱,人类可能才摸清一成。
  • 细菌耐药机制:完全开放,只给一条线索(几个物种间保守的某个现象),剩下自己查文献、自己推。

三道题全过了,第三道就是开头那个感恩节故事。Nathan提到网上一直有种质疑:模型装了全人类的知识,为什么没见它们做出更多跨领域连接?这个案例算是有力回应。人类在实验室里独立发现,AI在数据中心里用几天时间平行推出同一个结论,两条路径没有任何交集,连当事人第一反应都是怀疑作弊。

这类事其实有前科。Med-PaLM发布后,斯坦福的Gary Peltz教授主动找上门,说你们的模型也许能帮到数百万罕见病患者。他当时在研究一种小鼠听力损失,模型提出了一个他从没想过的致病成因假设,他照着做了CRISPR实验,逆转了疾病成因,论文现在还压在一个顶刊手里审。

但当年有个尴尬的前提:可靠性极差。Med-PaLM要产出一条有用假设,得陪跑几千条垃圾。Gary恰好有专业眼光能快速扔掉废话,又有耐心翻完全部。换个人看五条就弃了,这条线就断了。Coscientist将近18个月的迭代,目标就是把「几千分之几」变成「次次可用」。

撑起这套系统的五个工程决策

两人反复强调一个转向。Med-PaLM和Med-Gemini时代,成功靠医疗数据微调;这一代AMIE和Coscientist,微调完全去掉了,全是通用模型加专用提示词,再编排成agent。

模型的知识和指令遵循能力已经够用,给它一套精确的指令,它就能照做,不需要再专门训练。

具体有几条经验,值得单独记下来。

长上下文是隐形功臣,但别贪多。Coscientist没有显式记忆库,靠的是把生成的想法、评审、辩论全文塞回上下文,让模型在下一轮隐式消化。Gemini能吃200万token,这个容量让整套流程免去了搭RAG的复杂度。有意思的是,AMIE团队原本打算把临床指南塞到100万token,实测发现降到25.6万,效果反而更好。容量和效果之间要靠实测找甜点,不能想当然。

结构化推理优于自由发挥。与其让模型自由链式思考,不如定义推理路径:先做分析,再定管理目标,最后出方案。Nathan把它类比成飞行检查单,要求模型每次按固定步骤走完再回来汇报,比让它随便逛一圈回来说「都正常」可靠得多。但Vivek提醒别切太碎,把「先总结主诉、再总结病史」这种粒度定得过细,效果反而掉。保留高层结构,列表长度不限,是他们的甜点位。

一次生成4个方案再合并,是收益最大的单点改动。管理推理agent从只出1个方案改成并行出4个,再让模型取各家之长合并,内部自动评估的分数立刻跳了一截。至于为什么是4不是8,没优化过,方向对了就行。

锦标赛筛假设。所有候选假设两两配对比较,像世界杯一样层层淘汰,灵感来自AlphaStar。Anil承认这套做法效率不高,n平方的对比量得靠聚类省算力,他预期未来这种比较会沉到模型的潜空间里完成。但眼下,这就是筛最优假设的行业最佳实践,可以直接抄。

自我迭代的命门是持续加新信息。纯自我批评跑几轮就会模式坍缩,翻来覆去车轱辘话。Coscientist能连跑几天,靠的是每一轮都从网页搜索、AlphaFold这类工具里捞回新知识,给系统加熵。Vivek补了一点,系统还允许人类随时投喂想法,这也是熵的来源。

成本方面,Anil算过账:耐药机制那个项目全程推理token不到1000万,按GCP现价,绝大多数查询几美元,不到10美元。他还补了一句,这是最笨最浪费的版本,效率优化空间大把。哪些问题值得砸推理算力?他的判断是:答案明摆着的问题跑一轮就够,关键信息根本不在语料里的问题烧再多也推不出来,中间有一条甜点带,人类关心的大部分问题恰好落在这条带上。

Anil还提到科学的暗物质:阴性结果没人发表,论文附录里的大数据集也少有人挖。ARC研究所刚发布的虚拟细胞图谱,有3亿个细胞的基因扰动数据,人类团队要看好几年。把Coscientist和数据科学agent配对去啃这种数据集,是他眼里最值得期待的方向。

幻觉、创造力,还有卡在激励上的融合

Nathan抛了个半哲学问题:压幻觉的后训练,会不会顺手压掉了创造力?大想法往往来自离谱的联想。

Vivek的直觉是,幻觉确实滋养创造力,假设生成本来就需要偏离剧本一点。Anil说得更直白:以前没做后训练的模型更容易出疯狂想法,做假设生成反而更好用。现在靠系统设计把可靠性做上去了,可能牺牲了某些天马行空的东西,他们也不确定。Nathan的收束是「可能两者都要」:文献丰富的领域需要严谨的推理者,没什么现成资料的领域,反而需要爱胡思乱想的模型。谷歌的解法是系统允许接入多样性的模型,疯点和稳点的都进来,再靠锦标赛排序,让高质量假设自己冒头。

Nathan又提了个高概念问题:语言、视觉、语音已经合流进同一个架构,AlphaFold这类专科模型会不会也走这条路,让AI直接在蛋白质和基因组的空间里推理,绕开API调用这种有损的翻译层。

Anil的回答有点意外:架构和算力都不缺,缺的是激励。他们实测过,往模型里加医疗影像或基因组数据,新模态的基准分涨了,通用的语言和视觉基准分却往下掉。前沿实验室不愿意为了少数用户牺牲主流榜单的成绩。他的态度很明确,基准分数没那么重要,实用价值才重要,可缺乏清晰的效用度量时,这笔账很难说服决策层。Nathan补了一段背景:视觉和语言模型早期分开是研究历史的产物,先各有各的团队,再晚期融合拼起来,最后发现从预训练就把数据混在一起效果更好。专科模态大概率会重演这条路。

所以现阶段是个局部最优:谷歌选择自己搭agent,用系统组合绕开模型层面的融合。Anil判断,未来几年这更多是工程问题,而非有待攻克的基础未知。

下一步:真病人和百万科学家

Coscientist的推进更快。谷歌已经启动可信测试者计划,全球近100位顶尖科学家在用,分批邀请,每批收集反馈、修补弱点、再放下一批。Anil的预期是,顺利的话今年年底,全球数百万科学家能用上这套工具。

AMIE这边的动作更重:和哈佛医学院教学医院贝斯以色列女执事医疗中心合作临床试验,让LLM系统在真实诊所里面对真实病人,这属于同类研究的头一批。试验点常驻足够的临床专家,出问题随时接管,安全网先铺满。跑顺了再减监督、扩中心、加新功能。

还有个容易被略过的细节:所有这些成果都是在Gemini 2.5发布之前做出来的。Anil确认,2.5版本的测试结果很快会来,等于一次近乎免费的性能跃升。

Nathan问,能不能给系统前面加个「自己找问题」的agent,让它上网闲逛,自己提好问题再自己答。Anil说,提出正确的问题比解决问题更上游,是真正的根节点问题,哪天AI能自己问出好问题,才配叫数据中心里的天才。他同时认为现有模型已经有点这个底子,值得试。

明天就能用上的东西

拆完这一集,做AI应用的人和关注AI的人可以带走这些:

  • 搭agent系统时,用结构化输出定义推理路径,但只框高层步骤,别把粒度切到「先总结主诉」那么细。
  • 关键任务别只生成一次答案,并行出几版再让模型合并取优,成本翻几倍,质量跳一档。
  • 想让自我批评循环跑过三五轮不崩,必须每轮接入外部信息,网页搜索是最低配,专用工具和数据库更好。
  • 筛多个候选方案,用两两配对的锦标赛制,比让模型直接打分靠谱,这是目前可以直接抄的行业实践。

更大的图景也有信号可读。一位顶级实验室的研究者判断,未来两年的主要工作是工程而非科学突破;一次完整专家级科学推理的成本,已经压到10美元以内。这两个事实放在一起,值得每个人重新校准自己的计划。Nathan的开场白可以原样送给所有人:如果人们真的了解今天的AI已经能做到什么,很多人会从根本上修改自己的规划。

In this episode, Nathan Labenz speaks with Vivek Natarajan and Anil Palepu from Google DeepMind about their groundbreaking work on AMIE (Articulate Medical Intelligence Explorer) and Co-Scientist. The conversation reveals how these AI systems are already outperforming human physicians in diagnostic accuracy and treatment recommendations, with AMIE now entering clinical trials at a Harvard Medical School teaching hospital. Even more remarkably, the Co-Scientist system demonstrates genuine scientific discovery capabilities, independently proposing the exact same mechanism for bacterial drug resistance that human scientists had recently discovered but not yet published—signaling a threshold moment where AI is becoming a legitimate thought partner in humanity's most complex intellectual endeavors.

SPONSORS:
Oracle Cloud Infrastructure (OCI): Oracle Cloud Infrastructure offers next-generation cloud solutions that cut costs and boost performance. With OCI, you can run AI projects and applications faster and more securely for less. New U.S. customers can save 50% on compute, 70% on storage, and 80% on networking by switching to OCI before May 31, 2024. See if you qualify at https://oracle.com/cognitive
Shopify: Shopify powers millions of businesses worldwide, handling 10% of U.S. e-commerce. With hundreds of templates, AI tools for product descriptions, and seamless marketing campaign creation, it's like having a design studio and marketing team in one. Start your $1/month trial today at https://shopify.com/cognitive
NetSuite: Over 41,000 businesses trust NetSuite by Oracle, the #1 cloud ERP, to future-proof their operations. With a unified platform for accounting, financial management, inventory, and HR, NetSuite provides real-time insights and forecasting to help you make quick, informed decisions. Whether you're earning millions or hundreds of millions, NetSuite empowers you to tackle challenges and seize opportunities. Download the free CFO's guide to AI and machine learning at https://netsuite.com/cognitive

PRODUCED BY:
https://aipodcast.ing

CHAPTERS:
(00:00) About the Episode
(06:26) Introduction and Welcome
(07:49) AMY Medical Intelligence Overview
(11:29) Chat-Based Medical Interactions
(13:59) Specialized Medicine Results
(18:17) Co-Scientist System Headlines (Part 1)
(18:21) Sponsors: Oracle Cloud Infrastructure (OCI) | Shopify
(21:36) Co-Scientist System Headlines (Part 2)
(26:32) Bacterial Drug Resistance Discovery
(31:41) AI Scientific Discovery Process
(35:35) Hallucinations vs. Creativity (Part 1)
(35:37) Sponsors: NetSuite
(37:10) Hallucinations vs. Creativity (Part 2)
(42:04) Agent Design Architecture
(49:17) Long Context Benefits
(55:35) Computational Requirements
(01:01:10) Specialist Models Integration
(01:07:01) Future Model Integration
(01:12:31) Tournament Evaluation Methods
(01:19:09) AI Question Generation
(01:22:42) Real-World Deployment Plans
(01:25:58) Outro

本集资源与出处