问诊赢过全科医生,读片比肩放射科:谷歌医疗 AI 的五篇论文精读
The AI Doctor Can See You Now, with Vivek Natarajan and Khaled Saab from Google
谷歌研究者 Vivek Natarajan 与 Khaled Saab 谈大语言模型在医疗中的落地、AI 医生能否胜过人类医生,以及对全球医疗可及性的影响。
先说结果。一个只能打字的 AI,通过聊天问诊,诊断准确率超过了一组真实执业的全科医生。模拟病人给它的共情评分,比给真医生的还高。
这项研究叫 AMIE,来自谷歌,2024 年年初发布,底座是已经算上一代的 PaLM 2。播客 Cognitive Revolution 这期请到了背后的两位研究员:Google Research 的 Vivek Natarajan 和 Google DeepMind 的 Khaled Saab。Vivek 已经是第三次上这个节目,是出场次数最多的嘉宾。
主持人 Nathan Labenz 把谷歌医疗 AI 的五篇论文从头捋了一遍:放射报告生成、诊断对话、Med-Gemini、多模态扩展、药物发现。下面挑最硬的信息讲。
放射科:两年前的旧模型,交出了临床级的报告
Nathan 在节目里讲了个细节。他妻子的表亲是医生,说她们医院一张影像片,最长要等 60 天才拿得到报告。医生们都很沮丧。放射科缺人,缺到这个程度。
第一篇论文做的是放射报告生成,底座是 Flamingo,谷歌 2022 年 4 月发布的早期多模态模型。论文发表距离模型发布超过 18 个月,在今天的 AI 行业算得上长寿。此前医疗 AI 的主流做法是分类:给一张图,判断有没有某种病灶。这篇论文跨出的一步,是让模型直接输出完整的自然语言报告,就是放射科医生最终写给病人和全科医生看的那种。
结果如何?在两个独立数据集上,AI 报告分别以 1% 和 12% 的绝对优势超过原放射科医生的报告;正常病例里 57% 和 96% 的 AI 报告被评为与人类报告相当或更好,异常病例里这个比例是 43% 和 65%。训练数据来自公开的 MIMIC 数据库,模型本身也不算大。高质量数据加一个相对小的模型,就能追平人类专家。
还有个更微妙的发现。把 AI 起草的报告交给放射科医生修改,这个「AI 加人」的组合,成绩比 AI 单干好,也比医生单干好。斯坦福 AIMI 中心的 Curt Langlotz 有句话在圈内流传很广:
「AI 不会取代放射科医生,但会用 AI 的放射科医生,会取代不会用 AI 的放射科医生。」
Vivek 还补了一个行业内幕。他们做 Med-PaLM 时没用清洗过的报告数据,吃了亏。那份清洗版是哈佛的 Pranav Rajpurkar 团队整理的,去掉了报告里对既往病史的引用,逼模型只根据眼前的影像推理,别瞎编它看不到的历史。杰弗里·辛顿当年那句「AI 将取代放射科医生」如今显得有点臭名昭著,但 Vivek 觉得他离真相并不远。
到了 Med-Gemini 的扩展论文,数字更进一步:首次用大模型生成 3D CT 报告,53% 被评为临床可接受。Nathan 的判断是,2D 胸片报告这件事,基本摸到了临床可用的门槛。
AMIE:7 轮自我对弈,练出一个会问诊的 AI
AMIE 做的事和之前的医疗 AI 有本质区别。以前的模型拿到的是整理干净的病例摘要,然后给诊断。真实的看病过程要复杂得多:医生先问症状和病史,再开启一段探案式的追问,可能开检查,最后才收敛到鉴别诊断和治疗方案。Vivek 说,在此之前,他没见过任何领域证明大模型能干这种活。
关键差异在于谁开车。跟 ChatGPT 聊天,是你引导对话,模型辅助你。看病反过来,模型得带着目标主动推进,问对问题,帮病人走完就诊旅程。这种能力从哪来?答案是造了一个模拟学习环境。
第一版 AMIE 用真实医患对话的转写文本训练,效果很差。原因是转写稿噪音太大:停顿、语气词、指指点点,信息在转成文字时丢了一堆。团队换了个思路,自己造数据。
具体配方是三个智能体。一个扮演病人,输入是自动生成的病人档案,包含症状、病史、家族史;一个扮演医生;第三个当批评家,按高质量对话的标准给对话挑毛病,反馈再喂回去重新生成。病人档案用网络搜索批量造了几万份,再叠加社会经济状况、用药史、旅行史,甚至病人性格,话痨的、焦虑的、有敌意的,排列组合下来能到几亿量级。同一个 AMIE 模型既演病人也演医生,靠不同指令切换,两边一起变强,这套流程叫外层自我对弈循环,论文里跑了 7 轮。Nathan 说,他见过的同类论文通常 5 轮就到头了。
他还算了笔账:一个医生整个职业生涯大概接诊几万人次,AMIE 的模拟对话量早已超过,而且还在涨。真人医生一辈子能见的病例,AI 几个月就能全部见一遍,还能按需补充。
团队自己都被速度吓到。Vivek 回忆,Med-PaLM 论文发布后大家开会讨论,一致估计搞定诊断对话至少要两年。AMIE 项目后来出了两篇论文,一篇是诊断对话,另一篇发在新英格兰医学杂志的病例挑战专栏。6 个月后,AI 就在两项评估里超过了全科医生。
当然,Vivek 主动泼了冷水。对比对真人医生算不上公平:医生习惯面对面或视频,靠表情语气传递共情,文字界面很陌生;AI 不会累,医生可能刚下完一天门诊。但进步本身没有争议。
Med-Gemini:从「一个全能模型」退到「一桌专科模型」
Med-PaLM 时代的叙事是证明通用医疗模型可行。到了 Med-Gemini,团队的想法变了。Vivek 说得很直白:真要部署,就得在数据配比、优化任务、延迟、吞吐、模型体积之间做取舍。什么都塞进一个大模型,成本经常不值。应用需要的是一份菜单,让不同场景各取所需。
这篇论文更像一次全面探底:文本推理继续做,加上了网络搜索的智能体框架;多模态专攻医学影像;碰上 Gemini 长上下文突破(100 万,后来 200 万 token),又解锁了一批新任务,比如处理多份电子病历日志、对着手术视频提问、跨 12 篇遗传学论文找答案。
其中最值得展开的是不确定性引导搜索。朴素做法是让模型对每个问题生成搜索词,抓回结果塞进上下文。Khaled 说这经常帮倒忙,无关信息一多,模型反而更容易抓错重点。他们的两个关键修正:
- 先让模型对同一问题生成多个回答,找出相互冲突的地方,再针对冲突点生成搜索词,搜的正是模型拿不准的东西。
- 训练时把搜索结果放进上下文,让模型学会只提取有用的部分,不盲从。
这套机制还有个更远的用途:模型拿不准时,明确说出来,退回去求助人类专家。Vivek 把这叫可扩展监督,是安全部署的前提。
另一个贯穿全场的话题是评估。生成式模型输出的是整段文字,准确率这种老指标用不上了,金标准是请临床专家小组逐条评审,慢,但躲不掉。Vivek 承认,现在的基准已经跟不上能力进步,MMLU 上提升 0.6% 这种数字,根本代表不了系统的全部能力。整个领域都缺更好的尺子。
从看病到制药:把生物医学宇宙编码进模型
Vivek 的长期愿景叫「AI 医师科学家」。他的参照系是科学史:弗莱明和索尔克都是白天看病人、晚上做实验的执业医生,突破来自临床观察和实验室的闭环。他想让模型同时吃下整条生物学生命链的数据,从 DNA、RNA、蛋白质,到医学影像、电子病历,再到人群健康数据。
第五篇论文 TX-LLM 是这条路上的一步。它把化学结构当成文本 token,就是有机化学课上那些 C、H、O 排成的字符串,和自然语言混在一起训练,让一个通用模型覆盖药物发现全流程,从靶点识别一路到临床试验阶段。有些任务还落后于专用模型,但不同药物模态之间的迁移学习已经出现。
更激进的是发现类工作。去年年底谷歌和斯坦福合作,让大模型对小鼠的一种耳聋表型提出致病基因假说,合作者用 CRISPR 基因敲除实验验证,假说成立。现在这套方法被用到人类「意义未明变异」上,罕见病和未确诊疾病正是最缺医生的领域。Vivek 说,幻觉的反面就是创造力,科学发现恰恰需要创造力,关键是把专家留在回路里。团队刻意没把系统接上机器人实验室,因为还做不到安全控制。
Khaled 补了一个关键瓶颈:AI 科学家要转起来,缺的是能快速检验假说的模拟环境。现在模型给一个假说,就得去湿实验室等几个月。谁先把生物模拟器做出来,谁的迭代速度就能上一个数量级。
最慢的一环:信任
Khaled 讲了个自己的故事。去年刚加入谷歌时,他在内部峰会上举手提问:大模型服务都免费,为什么不能直接出一个免费的 AI 医生?后来他明白了,医疗领域有 FDA 监管和一整套评估要求,没那么简单。
Vivek 说得更重。什么时候能把这个技术部署出去,是他现在夜里睡不着的最单一问题。他们的论文里反复加免责声明,就是在提醒:能力不等于可靠性。推特上偶尔疯传「我用 ChatGPT 诊断了自己的病,比医生强」,这种轶事说服不了监管机构。他给的路线图和制药几乎一样:先在模拟环境验证(AMIE 用的是病人演员),再进真实临床流程做对照研究,先看安全性,再看有效性,逐步放开能力。他们正在和资源充足的医疗机构合作推进,很快会有消息。
这里有个悖论。测试安全性本身就需要监督,监督意味着出问题时得有医生立刻顶上,而医疗资源恰恰集中在西方世界。所以只能先在资源充足的地方完成验证,再往外推。Vivek 的原话值得抄下来:
「医疗领域的一切,都以信任的速度前进。走捷径会把整个领域拖回几十年前;把事情做对,反而会让我们更快到达想去的地方。」
Nathan 的追问有两层:为什么不学特斯拉,先出贵的版本赚收入,再拿钱补贴降价?以及,当全球很多人今天能得到的最好选择就是 AMIE 时,把它压着不发,会不会本身就是一种不道德?Vivek 没有正面接招,他给的答案还是那条路线图:先证明安全和有效,其他的都排在后面。
接受度也是慢变量。Vivek 说他妈至今对 AI 的全部印象,是打电话给航空公司时那堵挡在人前面的 AI 墙。他估计全球大概只有十分之一的人真正用过 GPT-4 或 Gemini。技术从硅谷扩散到十亿用户,向来以十年计。
成本倒是好消息。Gemini 1.5 Pro 的输入价格是每百万 token 7 美元,Nathan 说他愿意为好用的产品每月付 500 美元。Vivek 纠正的是另一个维度:谷歌想的是十亿用户规模,在印度和非洲,每年 500 美元就是用不起。目标是让全球都能获得最好的医疗,别把现有的差距再放大一遍。所以还得往下压成本,Flash 级模型和端侧 Nano 都是为此准备的。
模型停在 Gemini 1.5,AI 医生照样做得出来
节目最后,Nathan 抛出了他自己的立场:应用加速主义者,超大规模暂停主义者。翻译过来就是,AI 医生、AI 程序员这些应用越快越好,但通往超级智能的继续放大可以缓一缓。他甚至主张搞一个「AI 医生极速计划」,用 10 的 26 次方量级算力训练的模型来做,同时给可解释性和 AI 控制留出成熟时间,理想情况下还能拉上中国一起。他的问题很直接:假如 Gemini 1.5 是你们能用过的最强模型,AI 医生的愿景还成立吗?
Khaled 先给了一个视角:计算器早就算得比数学博士快,我们的工具在很多轴上已经超人,只要可控、能造福人,超人没什么可怕的。但他同时承认,幻觉是让他睡不着的问题,今天的模型会在很基础的事情上犯蠢,这个洞必须补,靠不靠继续放大解决还是开放问题。
Vivek 的回答更干脆:以今天的模型能力,做出一个能普及医疗服务的系统,是可能的,只是要多花点时间。他拿 Waymo 做类比:自动驾驶不需要 AGI,靠的是系统性的开发、安全投入、模拟器和系统工程。医疗 AI 需要同样的东西,外加过程监督这类训练技术的补课。就算基础模型停滞,愿景照样推进;模型更强,只是到得更早。
Nathan 的总结是,这期节目恰好证明了他想说的:一些人类水平的结果建立在 2022 年 4 月发布的 Flamingo 上。当下模型已经强到极有用,又没强到失控,真正的瓶颈是把性能调校到位的笨功夫;算力的下一个数量级,暂时排在它后面。Vivek 补了一句:就算进步停滞,变的只是商业护城河和推广策略,愿景本身已经不在科幻小说的范畴里了。
节目结尾还有个彩蛋。Khaled 说,他能进谷歌,部分原因是面试前听了这档节目里 Vivek 聊 Med-PaLM 的几期,靠 Nathan 的提问补足了论文细节,才在面试里让未来的搭档眼前一亮。
最后,把能带走的东西列一下。如果你在做 AI 应用,这期节目给了一份可以直接抄的配方:
- 数据质量优先于模型体积。先把训练数据清洗干净,去掉模型不该看到的引用和噪声,小模型也能追平大模型。
- 评估是护城河。别盯着静态基准的小数点,找领域专家做金标准评审,慢,但这是别人抄不走的部分。
- 合成数据三件套:生成器造覆盖度,批评家提质量,多轮自我对弈。每一轮都要注入模型没见过的新信息,否则会饱和。
- 不确定性检测别用老办法。多次采样找回答之间的分歧,针对分歧点去搜索或求助人类,比单次输出的置信度靠谱。
如果你只是普通用户,记住一句话:能力不等于可靠性。ChatGPT 自诊替代不了就医,AMIE 和 Med-Gemini 的真实临床数据还在路上,值得等。Nathan 说得对,AI 医生可能是普通人最早享受到的 AI 红利,但它的到来方式会是临床试验报告,大概率轮不到推特热帖。
Dive into the future of medicine with Google researchers Khaled Saab and Vivek Natarajan, discussing the breakthroughs in AI for healthcare. Discover how AI doctors may soon provide high-quality medical advice, enhancing global access to healthcare. Learn about the innovative use of large language models in medical applications and the potential for AI to outperform human doctors. Listen as we explore the significance of AI's role in healthcare and its implications for future medical practices, featuring insights from leaders in AI research.
SPONSORS:
Oracle Cloud Infrastructure (OCI) is a single platform for your infrastructure, database, application development, and AI needs. OCI has four to eight times the bandwidth of other clouds; offers one consistent price, and nobody does data better than Oracle. If you want to do more and spend less, take a free test drive of OCI at https://oracle.com/cognitive
The Brave search API can be used to assemble a data set to train your AI models and help with retrieval augmentation at the time of inference. All while remaining affordable with developer first pricing, integrating the Brave search API into your workflow translates to more ethical data sourcing and more human representative data sets. Try the Brave search API for free for up to 2000 queries per month at https://bit.ly/BraveTCR
Omneky is an omnichannel creative generation platform that lets you launch hundreds of thousands of ad iterations that actually work customized across all platforms, with a click of a button. Omneky combines generative AI and real-time advertising data. Mention "Cog Rev" for 10% off https://www.omneky.com/
Head to Squad to access global engineering without the headache and at a fraction of the cost: head to https://choosesquad.com/ and mention “Turpentine” to skip the waitlist.
RECOMMENDED PODCAST:
Byrne Hobart, the writer of The Diff, is revered in Silicon Valley. You can get an hour with him each week. See for yourself how his thinking can upgrade yours.
Spotify: https://open.spotify.com/show/6rANlV54GCARLgMOtpkzKt
Apple: https://podcasts.apple.com/us/podcast/the-riff-with-byrne-hobart-and-erik-torenberg/id1716646486
CHAPTERS:
(00:00:00) About the Show
(00:04:34) Introduction
(00:06:35) Flamingo
(00:11:50) Importance of data quality
(00:13:29) Amy: AI doctor
(00:18:44) Simulation Learning Environment
(00:23:26) Sponsors: Oracle | Brave
(00:25:34) Training the Agents
(00:27:29) Tens of thousands of data points
(00:30:35) How to incorporate new knowledge
(00:33:21) MedGemini
(00:34:51) Sponsors: Omneky | Squad
(00:36:38) Uncertainty guided search
(00:39:29) Generalist models
(00:41:16) MedGemini, Gemini, multimodal, medical images
(00:44:57) Future work, integration, consolidation
(00:46:00) Cost of AI
(00:52:38) When will AI Doctors be Deployed?
(00:58:22) The Speed of Trust
(00:59:58) Societal Acceptance of AI Doctors
(01:02:06) Uncertainty-Guided Search
(01:06:02) Med-Gemini: Chest X-Rays and CT Scans
(01:17:38) AI Scientist
(01:20:01) What are the principles at play?
(01:22:58) What should we do about AI?
(01:28:24) LLM for democratizing access to care
(01:34:22) Final Message
(01:35:38) Closing
(01:36:45) Outro
本集资源与出处
- 视频在 YouTube 收看
- 音频节目 MP3 直链来自官方播客 RSS
- 订阅Apple Podcasts
- 官网节目官方页面
- 文本精读 Markdown 版便于引用与 AI 读取


