No. 92·精读

脑子里唱首歌就能解锁手机,整段想法被读出的准确率已超80%

Cutting-edge Neurotechnology with Nita Farahany in Conversation with Luisa Rodriguez on The 80,000 Hours Podcast

神经伦理学者 Nita Farahany 与 Luisa Rodriguez 谈神经技术现状及对工作、医疗、隐私与认知的影响。

节目音频00:00 / 2:05:40
中文精读由 AI 基于原始访谈改写,非官方翻译,可能存在偏差或错误;表述以原节目为准。

2023年5月,德州大学奥斯汀分校的团队发表了一项研究:受试者躺进功能性磁共振成像仪,先听播客,再自己编故事,研究者用GPT-1模型解码脑成像数据,把这个人听到和想象的内容还原成整段文字,准确率超过80%。杜克大学法学与哲学教授妮塔·法拉哈尼的评语很直接:这就是读心术。

这项研究出现在她新书出版几个月后。书名叫《争夺你的大脑》(The Battle for Your Brain),副标题是“在神经科技时代捍卫你自由思考的权利”。2024年1月,Cognitive Revolution播客转播了80,000 Hours播客对她的长篇访谈,主持人路易莎·罗德里格斯说,她读这本书时反复冒出同一个念头:这种东西怎么已经存在了,而我居然不知道?

法拉哈尼的背景不轻。奥巴马时期她被任命为总统生物伦理问题研究委员会委员,任职七年,长期研究新兴技术的伦理与法律边界。她给神经技术的总判断是:它可能成为人类历史上最能解放人的技术,也可能成为最压迫人的技术,分岔口就在我们此刻的选择。

转播这期节目的Cognitive Revolution主持人内森·拉本兹补了一个视角:过去一年AI新闻多到麻木,字面意义上的读心技术,放在几年前该上头版,现在几乎无人讨论。Neuralink已进入临床试验,Meta发布了用非侵入设备实时解码脑信号的研究。拉本兹说,就算大语言模型从GPT-4水平原地踏步,由AI推动的生物技术革命,也足以把未来变成另一个样子。

读心术的真实进度

原理不复杂。每次思考和情绪波动,背后都是大量神经元同步放电,形成有特征的脑电波。传感器把电信号拾起来,AI负责解码。解码靠训练:先记录“放松时长这样”“说‘是’时长这样”,再给每个人做个体校准,因为每个人的大脑对同一句话的反应模式都不一样。

设备这两年变化很快。老式脑电图(EEG)是一顶医疗帽,128个电极,涂导电凝胶。现在换成干电极,几个传感器就能塞进耳机、头带或者安全帽。法拉哈尼录节目时戴着一副普通耳机,耳机罩里就能藏传感器。

解码能力的分界线也清楚。fMRI看得深,能还原整段想法和梦境画面,但信号慢,靠血氧变化,人得躺进大机器。EEG方便,可颅骨太厚,大部分脑波出不来,还混着眨眼和肌肉抽动的噪声,只能抓比较粗的大脑状态:开心还是难过,“是”还是“否”。

德州大学那项研究的突破口在生成式AI。ChatGPT发布后,法拉哈尼立刻联系了做语音解码的头部研究者,对方回复:这会让脑解码“像打了激素一样”提速。语言模型预测下一个词的机制,正好接上“预测大脑接下来想什么”。脑数据只是活动模式,模式就能被解码,AI越强,解码越强。研究团队用合成的近红外数据验证了便携设备上的可行性,EEG版本要重建模型,但他们认为做得到。

脑对脑通信也在推进。华盛顿大学做过一个实验:三个人待在三个房间,合作玩类似俄罗斯方块的游戏。两个“发送者”戴EEG头带,能看到完整棋盘;“接收者”只看得到下落的方块。发送者想“要旋转”或“不要旋转”,信号传过去,接收者视野里闪一次光斑代表“要”,没有闪光代表“不要”。多组三人小队玩下来,准确率超过80%。

法拉哈尼在皇家学会开会时被人拦下做演示。对方给她戴上耳机,说演示只要六秒,会诱发眩晕。按钮按下,她瞬间天旋地转,得抓住东西才站得住。所谓脑对脑通信,现阶段就是提前约定信号含义:眩晕代表“是”,无感代表“否”,像摩尔斯电码。刺激视觉皮层产生光斑,刺激别的部位产生恶心或愉悦,都是同一套逻辑。

这条路线的源头之一,是2018年一家叫CTRL-labs的公司演示。创始人开场就问:我们的大脑是出色的输入设备,为什么输出端这么笨拙?他挥着手说,与其用“手臂末端这两个锤子”,不如直接指挥章鱼式的触手。这家公司后来被Meta收购。军方对这件事的兴趣很直白:一个人用意念控制一整群无人机,无人机之间靠程序协同,人脑只给出方向,整个蜂群像生物一样集体响应。战场通信也同理,信号直接从大脑到大脑,没有电文可截获。

军方在研究什么

法拉哈尼强调,她的书几乎没有未来学,写的全是已经存在的技术和应用。军事这一章的信息量很大。

  • 提神药物莫达非尼最早的试验对象之一就是空军飞行员,认知增强药物一直带着军方基因。
  • 经颅直流电刺激被用于射击训练,加快目标识别的学习速度。
  • 头盔里嵌EEG传感器,捕捉士兵潜意识里的目标识别。大脑在意识觉察之前几十毫秒到几秒就已经认出了目标,把识别高手的脑信号喂给AI,能做早期预警,直接回传指挥部。
  • DARPA有个项目:给退伍军人看两组陈述,比如“我”和“我想自杀”,用大脑的语义一致性信号探测抑郁和自杀倾向。

脑生物识别是另一条线。每个人在脑内唱同一首歌,神经信号模式都不一样,所以可以在脑子里唱首歌来解锁手机。书里的例子是默念一句“妮塔早餐吃了一根Kind棒”,每个人的脑波签名都不同。这种“功能性生物特征”比密码安全,泄露了还能随时换,今天用这根Kind棒,明天换成燕麦粥。目前它只能做认证,比对本人预留的基线;从几十亿人里直接认出你是谁的“身份识别”,还早。

认知战的阴影也在变大。美国驻哈瓦那的外交官集体出现耳鸣、眩晕等症状,被称为哈瓦那综合征。美国国家科学院审查后倾向认为存在某种微波或电磁频率武器;美国情报机构随后联合声明,外国对手所为可能性低,但仍有二十多例无法解释。另一边,拜登政府以涉脑控武器研发为由制裁了四家中国公司,北约也开始就认知战这个新作战域开研讨会。

法拉哈尼的总结是:这些项目绝大多数还处于研发阶段,没有规模化,但整体进度远超99.9%的人的想象。

职场里的脑数据

全书让读者最坐不住的可能是职场这一章。一家叫SmartCap的公司卖了十多年疲劳监测头带,可以塞进安全帽,用脑波给工人打1到5分的清醒度评分,从“高度警觉”到“睡着”,实时推送给本人和主管。长途卡车、矿业、航空在用,全球已有5000多家公司用过这套技术。

法拉哈尼给卡车司机这个案例留了余地:如果只测一件事,睡着没有,不拿脑数据去挖别的想法,那么心理隐私和公路安全之间,这笔交易也许说得过去。她真正担心的是生产力评分。

疫情期间,有雇主开摄像头确认员工在不在工位。超过80%的公司承认对员工使用某种形式的监控。脑设备版本的产品已经在卖:给员工发一副多功能耳机,开会听歌两不误,顺便追踪注意力、专注度、无聊还是投入、走神没有。

她在达沃斯讲完这一章,一位CEO找上来,说他们公司正好是案例:已经和一家神经科技公司合作,在1000多名员工身上试了这套技术,追踪的不止注意力,还有情绪状态,员工在家办公效率高还是办公室高,并且据此做了管理决策和招聘解雇决策。

书里写了一个谈判场景。雇主通知员工加薪2%,员工脑数据显示狂喜,嘴上说“我本希望加10%”,此刻脑波里全是恐惧。雇主回去看数据:对方对2%心满意足,对10%其实很慌,而公司上季度营收在涨,10%完全给得起。第二天回复:抱歉,只能给2%。每场对话的情绪反应都能被读取,契约自由就被这种信息不对称掏空了。

还有更细的:一起共事的人脑波会趋于同步。雇主若发现一群员工脑波异常同步,再交叉比对其他监控数据,可能提前发现他们打算组织工会。

数据质量本身也靠不住。神经科学家会告诉你,EEG信号里混着肌肉抽动和眨眼,噪声很大。拿一堆噪声去决定一个人的饭碗,算法再好也没用。

审讯室、法庭与消失的过滤器

手环数据已经进了法庭。有男子被控杀害伴侣,他的Fitbit数据证明案发时段他在睡觉,中途起来看过一次孩子,又回去睡了,不在场证明成立。

脑数据走得更远。阿联酋警方用EEG头套做审讯:嫌疑人看一系列图片、听一系列提示词,警方找的是大脑的识别记忆反应。听到一个普通人不该知道的恐怖分子名字,大脑亮了,就说明认识。据报道,这项技术已用于获得谋杀定罪。印度用类似技术多年,宪法层面的挑战一直在打。

MIT科技评论还报道过一个案例:一名癫痫患者脑内植入了电极,他被控犯罪后,主动调取自己的脑数据,想证明案发时自己正在癫痫发作,无法实施袭击。若属实,这是脑数据第一次为被告辩护。法拉哈尼提醒:被告能调取,政府同样能传唤。

“政府一直在窃听电话。我们真的想让政府在我们的大脑里也装一个后门,随时听我们在想什么、感受什么吗?”

她给罗德里格斯出了一道题。对朋友说过“你家沙发真好看”这种话吗?对伴侣说过“这件新衬衫很衬你”吗?对某类人群的第一反应让自己都不好意思,靠后天理性把它压下去,这种经历有吗?有人在探索自己的性取向或性别认同,还没准备好告诉任何人。大脑会把这一切全部出卖。现在的隐私靠一层过滤器维持,脑数据让过滤器消失。

Neuralink与植入式设备的另一面

法拉哈尼说,她更担心的其实是消费级设备,植入式反而排在后面。原因有两条:植入式面对明确的医疗风险收益核算,处在严格监管之下;消费级几乎无监管,是狂野西部。

Neuralink的工程突破有三点。全球能做植入式神经手术的外科医生只有约400人,他们在造手术机器人来突破这个瓶颈;电极阵列改成发丝状的细丝,密密麻麻塞进更多电极;数据无线传出,不用再连着实验室的线缆。现阶段它按医疗器械报批,面向治疗:让瘫痪者重新行走、用意念打字、控制光标。不久前首例脑脊接口患者重新行走的消息已经传出,用的虽然不是Neuralink,路线是相通的。猴子实验出现过感染等严重副作用。

有人问Synchron公司创始人汤姆·奥克斯利,Neuralink塞那么多电极,是不是就为了人类增强、让人类在对抗AI的竞赛里不被甩下。他的回答是:对,就是这个目的。法拉哈尼的看法是,短期内增强走不通,监管机构连增强类药物都批不了,何况往健康人脑子里放东西。但治疗先行的路线,确实可能为将来的增强铺路。

她提到一位研究深部脑刺激的科学家。这位科学家自己因为听力衰退戴上了助听器,花了不少时间重建“我如何听世界”的自我认知。她的病人也一样:植入设备控制难治性抑郁后,大约要一年才能建立起“哪里是我,哪里是技术”的新自我概念。技术改变的不只是功能,还有自我。知情同意在这里遇到根本难题:没法预知植入后的那个人会是什么样,又怎么替那个未来的他做决定?

这期节目的开场故事就发生在植入式设备上。一位抑郁症患者试遍了所有疗法,自认为已经病入膏肓,最后同意在脑内植入电极。电极追踪出她抑郁发作时的特定放电模式,每次信号出现就自动打断,像给大脑装了心脏起搏器。她后来恢复了正常的情绪范围,过上了自己认为值得过的生活。

能打断坏信号,理论上就能打断别的信号。如果一台带神经刺激功能的耳机被黑,攻击者可以让人突然眩晕,也可以写入更特定的模式。当大脑里的改变分不清是本人意志还是外部攻击,连调查都无从下手。法拉哈尼和不少神经科技公司聊过,这个领域在网络安全上的投入少得可怜。

规则怎么定,明天做什么

法拉哈尼给出的框架叫认知自由(cognitive liberty),核心是对自己的大脑和精神体验拥有自决权。拆开是三条:自决权明确为个人权利;隐私权扩展出心理隐私;思想自由要保证思想免受干涉、操纵和惩罚。

她强调光有权利不够,激励也得改。现在主流商业模式靠广告收入,目标是最大化注意力和使用时长,这套激励下,脑数据的归宿必然是被商品化,用来让人更黏设备。她认为仅靠追责条款推不动老牌公司转向,需要大规模投入把商业利益和认知自由对齐。

全球动作比美国快。UNESCO开了大会,可能启动多年计划;OECD在2019年发布了神经技术原则;智利2021年把神经权利和精神完整性写进宪法,墨西哥、西班牙在跟进;英国出了专门报告。美国的立法讨论反而最少。

关于增强本身,她的态度在《纽约书评》的书评里挨了批。她的立场是:增强不算作弊,想让自己变得更强本来就是人性的一部分,用“科学还没到”来回避“到了该不该允许”的问题,答非所问。她反对在学校里惩罚使用增强手段的学生。

最好的情形她也画了像:设备帮自己冥想、提升专注、识别通知带来的压力并调整;脑数据留在设备上,用完覆盖,不收集不商品化;和选定的少数人脑对脑分享完整想法,对方能看到你看到的画面、感受到你的感受,共情有了全新的形态。

这期对话离普通人没有想的那么远。耳机、手表、VR头显都在往里加脑传感,Meta的手表用肌电信号捕捉手指意图,Apple给AirPods装EEG传感器申请了专利,Vision Pro用眼追踪推断注意力。法拉哈尼出书前没几家大公司理她,出书后苹果、Meta、微软、IBM、谷歌全来邀请她演讲。这个信号很清楚。

可以马上做的几件事:

  • 买任何可穿戴设备前,翻一下隐私条款里神经数据的收集、存储和共享部分,优先选数据在设备端处理、可本地删除的产品。
  • 把心理隐私当作和位置数据同级别的敏感项来管理,脑数据一旦交出去,要回来的难度远高于改密码。
  • 企业采购疲劳监测、专注监测类设备时,把网络安全要求和数据用途边界写进合同,只允许采集岗位必需的最小信号。
  • 关注智利宪法、UNESCO和OECD的神经权利进展,这些文本会成为之后各国立法的模板。
  • 想看全貌,直接读《争夺你的大脑》,书里几乎没有推测,写的全是已经发生的事。

罗德里格斯在节目最后说,她有点慌。法拉哈尼的回应是:慌是对的,这正是她写书的目的,趁技术还没铺开,规则还来得及定。

We're sharing a few of Nathan's favorite AI scouting episodes from other shows. Today: Nita Farahani shares her insights with 80,000 Hours' Luisa Rodriguez on the current state of neurotechnology and its potential impacts on various fields, including work, healthcare, privacy, and even human cognition. The discussion includes Farahani's assessment of devices like SmartCap and Neuralink, the concept of cognitive liberty, the risks of the technology, and the need for proper regulation and ethical considerations.
If you need an ecommerce platform, check out our sponsor Shopify: https://shopify.com/cognitive for a $1/month trial period.

Nita Farahany is a professor of law and philosophy at Duke Law School and discusses the applications of cutting-edge neurotechnology.
You can subscribe to The 80,000 Hours Podcast here: https://80000hours.org/podcast/
---
SPONSORS:
Shopify is the global commerce platform that helps you sell at every stage of your business. Shopify powers 10% of ALL eCommerce in the US. And Shopify's the global force behind Allbirds, Rothy's, and Brooklinen, and 1,000,000s of other entrepreneurs across 175 countries.From their all-in-one e-commerce platform, to their in-person POS system – wherever and whatever you're selling, Shopify's got you covered. With free Shopify Magic, sell more with less effort by whipping up captivating content that converts – from blog posts to product descriptions using AI. Sign up for $1/month trial period: https://shopify.com/cognitive

Omneky is an omnichannel creative generation platform that lets you launch hundreds of thousands of ad iterations that actually work customized across all platforms, with a click of a button. Omneky combines generative AI and real-time advertising data. Mention "Cog Rev" for 10% off www.omneky.com

NetSuite has 25 years of providing financial software for all your business needs. More than 36,000 businesses have already upgraded to NetSuite by Oracle, gaining visibility and control over their financials, inventory, HR, eCommerce, and more. If you're looking for an ERP platform ✅ head to NetSuite: http://netsuite.com/cognitive and download your own customized KPI checklist.

X/SOCIAL:
@labenz (Nathan)
@8000hours (The 8000 Hours podcast)
@CogRev_Podcast (Cognitive Revolution)

TIMESTAMPS:
(00:00) Nathan intro's this episode with Nita Farahany
(03:26) The Future of Neurotechnology: From Neuralink to Meta
(05:40) The Potential of Brain-Computer Interfaces in Military Applications
(11:29) The Role of Neurotechnology in National Security
(15:20) SPONSORS: SHOPIFY | NETSUITE
(18:14) The Potential of Brain-Computer Interfaces in Communication and Data Transfer
(21:19) The Future of Super Soldiers and Brain-Controlled Drones
(32:20) SPONSORS: OMNEKY
(41:05) The Controversial Realm of Neurotechnology Weapons
(45:16) Ideal International Agreements for Weapon Regulation
(47:01) The Threat of Hacking in Neurotechnology
(50:36) Brain Signatures for Identification
(01:11:28) The Future of Neurotechnology in the Workplace
(01:24:59) The Intrusion of Brain Decoding into Personal Relationships
(01:30:00) Regulating Brain Decoding: A Call for a Change in Worldview
(01:38:03) The Impact of Neurotechnology on Identity and Self-Perception
(01:41:47) The Future of Cognitive Enhancement and Transhumanism
(01:46:21) The Role of Neurotechnology in Addressing Neurological Diseases
(01:51:04) The Dark Side of Neurotechnology: Hacking and Manipulation
(01:54:50) The Importance of Cognitive Liberty in Neurotechnology
(01:55:15) The Future of Neurotechnology: Best and Worst Case Scenarios

This show is produced by Turpentine: a network of podcasts, newsletters, and more, covering technology, business, and culture — all from the perspective of industry insiders and experts. We’re launching new shows every week, and we’re looking for industry-leading sponsors — if you think that might be you and your company, email us at erik@turpentine.co.

本集资源与出处