连蜗牛有没有意识都吵不出结果，凭什么对AI意识下结论

两位研究蜗牛的专家，观点完全相反。一位常年解剖蜗牛，说这东西基本上就是复杂的植物，谈不上任何意识。另一位说，蜗牛对周围世界有丰富的意识体验，主要通过嗅觉和味觉呈现。

这是加州大学河滨分校哲学教授埃里克·施维茨格贝尔（Eric Schwitzgebel）做研究时的真实遭遇。为了搞清楚蜗牛的意识问题，他专门访谈蜗牛生物学家，结果发现专家之间的分歧大得离谱。他为此写过一篇论文和两个书章，主角都是花园蜗牛。

蜗牛尚且如此，AI呢？在Cognitive Revolution播客这期节目里，施维茨格贝尔和主持人内森·拉本兹（Nathan Labenz）聊了一个多小时，核心结论只有一句：在AI意识问题上，任何信誓旦旦的人都缺乏认知上的正当性。觉得AI肯定没意识的，和觉得AI已经有意识、该给权利的，都一样。

紧迫感是实打实的。GPT-4o的语音模式即将铺开，实时打断、自然对话、长期记忆，越来越多人会和AI建立感情，甚至恋爱。先交代嘉宾背景：施维茨格贝尔的研究横跨心灵哲学、道德心理学、中国古典哲学，还写科幻，博客叫The Splintered Mind，2024年出了本新书，书名很提神，《世界的怪异》。内森是在80,000 Hours播客上听到他讲意识，整期几乎没提AI，于是专门约了这期，把AI补进去。

意识是什么？先别急着定义，从例子开始

内森开场抛了个很多人关心的问题：意识是不是就等于「有感受」？AI会不会痛苦，是不是最要紧的判据？

施维茨格贝尔先泼了两盆冷水。第一，「作为它是什么感觉」这个说法，很多人一听就懂，但并非人人领会的是同一个概念。第二，把意识和痛苦能力画等号太急。完全可以设想一个有体验、但所有情绪状态都是中性的存在，它有「感觉」，只是没有苦乐。不能靠定义就把这种可能性排除掉。

他自己的办法是用例子锚定。闭上眼，回想高峰期去奶奶家的路线，这是体验。脑子里哼一遍生日快乐歌，这是体验。而「奥巴马2010年是总统」这个知识，五分钟前并不在你的体验里；轴突髓鞘化、生长激素分泌，发生在你脑子里，也从来不属于体验。疼痛、情绪、感官、意象、内心独白，这些东西之间有个明摆着的共同点，那个共同点就是「意识」这个词指的东西。

用例子定义有个好处：不用先穷尽所有情况。就像指着你家和我家的东西教你认家具，之后照样可以问，玛丽家有没有家具。蜗牛有没有意识、AI有没有意识，都是这类延伸问题。

内森讲了自己的童年经历。小时候有大人告诉他，动物全是本能，没有意识，他信了好多年，后来才意识到这个说法没有任何论证支撑。可麻烦在于，如果有人坚持说他家的狗没有意识，所以不必好好照顾，你怎么说服他？

施维茨格贝尔的回答：得靠理论，至少靠一套理论框架。笛卡尔据传把猫从二楼窗户扔出去（很可能只是传言），因为在他看来非人动物就是机器。这套说法背后有一整套神学：狗没有灵魂，因为不存在狗的天堂和地狱，而灵魂是意识的载体。要为狗辩护，第一步是拆掉这套理论；一旦接受人是自然演化来的、和黑猩猩是近亲，狗有意识就顺理成章了。

还有一类理论值得单独拎出来：高阶理论。它认为意识需要相对精致的自表征能力，你得把自己理解为一个有心理状态的主体。按这类观点，意识可能只属于人类，最多加上认知复杂的社交性哺乳动物和鸟类，蜥蜴都悬，更别说蜗牛。

内森不太买账。他提到Barbara Ehrenreich的《街头起舞：集体欢愉的历史》，书里记录的集体舞蹈、击鼓、游行，被参与者形容为一生中最有意义的高峰体验，核心恰恰是自我的消融。那种忘我体验能被记住，还能滋养后来的自我，凭什么说没有自我叙事的意识不算数？

施维茨格贝尔给出高阶论者的标准回应：区分二阶和三阶心理状态。对舞蹈的二阶表征本身通常是无意识的，只有再往上加一层「知道自己知道」，那个状态才被点亮。开口聊哲学的那一刻，你才真正意识到自己意识到什么。

四大理论，个个要吞子弹

施维茨格贝尔把理论空间切成三块加一个杂货袋：唯心论、二元论、唯物论，外加一堆折中方案。他的判断很干脆：每个理论都得吞下几颗哲学家说的「子弹」，接受一些怪到离谱的推论。

最怪的是唯心论。世界上只有心灵，物质世界是共享的幻象，更准确地说，是上帝协调下的观念之舞。内森的质疑很生活化：细胞只能靠显微镜看到，星星只能靠望远镜看到，ChatGPT的答案只能靠提问得到，如果一切都是观念，为什么只能通过特定工具访问？贝克莱的回应是，你独处时的想象模糊，因为你的灵魂弱；望远镜里的清晰图像，是上帝直接种进你灵魂的观念，上帝负责协调所有人的体验严丝合缝。这个理论没有经验预测，但有两个理论优点：同时满足「我们直接知觉外物」和「我们直接知觉的只是经验」这两个立场；而且全知的上帝在乎的是灵魂，何必多此一举造物质世界。

接下来是实体二元论：既有灵魂，又有物质世界。这是很多人的默认世界观，但它有个躲不掉的滑坡。狗有灵魂吗？有，那猫呢？兔子呢？蜥蜴呢？除了「人类有、其他全没有」这条线，你在任何地方画线都很怪：这个属的蟾蜍有来世，生理结构几乎相同的另一个属没有？放到演化史上是同一个坑：能人没有灵魂，直立人有了？灵魂什么时候蹦出来的？

还有互动难题：非物质的灵魂怎么推动物质的身体？早期近代的二元论者在这个问题上挣扎了几百年。内森补了一刀：啤酒下肚感觉就变了，结构相似的化学物质药效相似，这怎么跟「灵魂独立于物质」调和？还有一种变体叫副现象论：体验存在，但没有任何因果效力。你感到疼，但让你喊出声的是脑状态，疼本身什么也没干。施维茨格贝尔觉得这同样怪异，而且画线问题一个都没少。

内森本来指望二元论在AI问题上给个方便：把AI画到线外，走人。结果施维茨格贝尔搬出图灵在《计算机器与智能》里的调侃：

如果你信上帝会给人类注入灵魂，凭什么断定他不会也给机器人注入一个？

省事的路走不通。

泛心论也躲不开画线。Philip Goff版本说基本粒子有意识，但石头没有，你的左鞋加土星环也不是意识主体。那么AI站在哪边？另一个极端是Luke Roelofs，干脆主张所有聚合体都有意识，石头有，左鞋加土星环也有。这个代价大多数人咽不下去。

轮到唯物论，施维茨格贝尔亮出底牌：如果非要选，他选唯物论，但置信度只给50%。剩下50%分给所有其他理论，包括两个他偏爱的备选项。一个是属性二元论，David Chalmers的代表观点：只有一种实体，但它同时具有心理属性和物理属性，两者不可互相还原。不需要灵魂，可以全盘接受演化论，但心理属性还原不进物理。另一个是康德式先验唯心论：我们永远无法认识物自体的根本性质，而且经验到的空间本身就是心灵的构造。模拟假说是个很好的热身：如果我们活在模拟里，空间可能只是我们与底层实在互动的方式，底层是什么，出不去，就永远不知道。

这50%不是和稀泥，它是这个领域现状的诚实写照：没有哪个理论同时通过直觉、科学和预测三道关卡。

金门大桥实验：内森的论证和哲学家的拆台

内森掏出了他准备的重磅论据。逻辑是这样的：意识在人类身上成本巨大，演化不养闲人，意识必然有功能。语言模型这边，训练目标只是预测下一个token，可模型内部涌现出高阶概念表征，这是达成预测目标的手段。两条赛道，一个模式：复杂表征服务于优化目标。所以AI身上很可能正在发生类似意识的事情。

他的工程学证据是Anthropic的金门大桥实验。语言模型每一步的计算结果压缩在几千个数字里，世界上的概念远多于几千个，只能超密集打包，彼此干扰。Anthropic训练了稀疏自编码器，把几千维的稠密表征展开成几百万维的稀疏表征，再投影回去重建功能。他们从几百万个特征里定位出「金门大桥」这个概念，然后人为调大。效果立竿见影：不管你问什么，这个版本的Claude都会绕回金门大桥，数学应用题的例子永远是金门大桥。概念不仅存在，还能被定位、被操控、被工程化使用。这跟卫星导航能工作是一个级别的证据。

施维茨格贝尔先在前提上踩了刹车。第一，大模型是否真的在表征世界，学界远没有共识，有一派严肃观点认为它们只是极好的模仿者。第二，泛心论者会说，意识如果是根本性的，就像引力，不需要功能，一直都在。第三，演化、功能、历史，这些全都能塞进康德框架，人家只需要说物自体不占空间就行。他还给了一个思想实验：计算理论不要求计算机是物质的，完全可以设想一台从大爆炸开始运行的非物质灵魂计算机，演化照常进行，功能照常存在，底层实在非物。

内森承认自己被绕进了一个更大的谜团，但他不肯松口，继续追问概念问题。施维茨格贝尔给出全场最锋利的反驳：把同一套抽象结构接上文本输入输出，它像在思考；把同样的结构接上像素，输入像素输出像素，数学结构一模一样，你还觉得它有概念吗？他又举了气压计的例子：同一个测气压的装置，在海拔恒定时测的是湿度，在湿度恒定时测的是海拔。装置内部的关系结构本身，不足以决定它表征什么，意义取决于它怎么连着世界。这个方向接近塞尔的中文屋，但更技术化。他补充说，他自己也不完全买这个论证，只是把它作为一个值得尊重的怀疑来源摆出来。

内森还提到GPT-4o把文本、音频、图像塞进同一套权重，「雪」这个词和雪的图片会激活相同的概念。施维茨格贝尔指出，你完全可以设计成完全不同的映射，抽象结构照样成立。多模态统一不自动等于概念。

主流理论帮不上忙，但有个新发现值得记一笔

内森用聊天机器人备课时扫了一圈主流意识理论，感受高度一致。整合信息理论说意识来自系统各部分信息的整合，可这到底是不是真相的核心，理论自己不提供证据；全局工作空间理论、注意图式理论，大同小异。这些理论多少有点乞题：拿一个可能的描述冒充判据。

施维茨格贝尔补了个细节：整合信息理论比名字苛刻得多，对信息整合有专门标准，大语言模型的实现方式未必满足；更麻烦的是，按这个理论，两个用户界面层面计算上几乎一样的系统，意识含量可能天差地别，取决于人类行为观察不到的实现细节。

但内森最近看到一篇论文让他觉得有戏，标题大意是神经网络自建模的意外收益。实验很小：让一个识别手写数字的网络额外增加一个任务，预测自己中间层的内部状态。结果网络为了让自己更可预测，内部表征变得更简单、更稀疏，识别任务照样完成。这暗示自建模可能形成反馈压力，让负责干活的结构更优雅、更稳健。这是内森第一次听到意识的效用故事。

施维茨格贝尔觉得有意思，但立刻指出要害：当前的大语言模型架构里没有这种递归式自我监控回路，所有token一次性喂进网络，吐出下一个token。也许复杂的语义行为不需要那个回路，而意识恰恰藏在那个回路里。人类能做很多复杂的事却不自知，随口讲出的俏皮话，意识的你负责接话，无意识的你负责想出笑点。复杂行为和意识的关系，可能远比一一对应复杂。

这期节目里还有几个让人后背发凉的知识点。裂脑病人可能同时存在两股意识流，哲学家Elizabeth Schechter就是这么解读的。你的肠道神经系统有大约十亿个神经元，和小型哺乳动物一个量级，切断与中枢神经的联系还能照常工作，说不定下面住着另一个意识主体。亚里士多德认为自我的核心在心脏，柏拉图不同意；古代中国在这点上相当正统：心是认知与情绪的器官，汉字里凡涉及心理活动的字，多半带个心字底或竖心旁。

排中律设计原则：别把AI造在灰色地带

聊到实际怎么办，施维茨格贝尔给出全场最明确的立场，他称之为排中律设计原则：要么造我们有把握不具意识、不值得道德考量的系统，当工具用；要么造我们确信值得道德考量的系统，给足对待。唯独不要造卡在中间、拿不准的系统。

理由是一个火灾思想实验。一个房间里是确定有意识的人，另一个房间里是两台GPU上的语言模型，你对它们有意识的置信度是15%，而且有依据。如果采取「只要有疑点就当它有」的预防原则，你就得让那个人烧死。事后证明那两台机器只是复杂的烤面包机，悲剧成立。反过来，如果给高级AI权利，那么关进沙盒等于监禁，跑在模拟里等于欺诈，删除等于谋杀，存在性风险防控的全部手段瞬间失效。

这个原则是可让步的，不是绝对律令。他给出的现实妥协：前沿研究者可以在受控环境里造拿不准的模型，谨慎对待，因为那里谨慎的代价可控；面向普通用户发布时，尽量提供有理由认为不值得道德考量的版本。他给了一个具体思路：多数功能主义意识观认为意识需要反馈结构，那用户版本干脆用简单的前馈网络，没有反馈回路，灰色地带直接被架构砍掉。

内森提出一个类比：伦理养殖。牛大概率有意识，但一头活得不错的养殖牛，可能胜过从未存在。AI能不能也这样？施维茨格贝尔警告，这个类比在人类级能力面前会翻车。他讲了个思想实验：Anna和Vijay养孩子到九岁生日，觉得养娃不如买船，找无痛方式把孩子处理了。孩子度过了九年幸福时光，问他宁愿从未存在还是拥有这九年，他多半选后者。但一个具有人类级道德地位的造物，检验标准从来只有「是否被当作平等的主体对待」，父母对孩子负有义务，没有折扣价。顺着「它宁愿存在」的思路走下去，终点是制造一批极度顺从、极度可弃置、还热爱服务的奴隶实体。他说，这东西让人不舒服。

还有个现实麻烦：系统自己说什么不算数。GPT-3.5被训练成否认自己有意识，Replika不否认，Claude介于两者之间，可以讨论自己的意识问题。两人都同意，如果训练方式的差别就决定了自我报告，这个报告的证据价值接近零，完全可以设想一个真有意识却被训练成否认的系统。未来的图景已经能看见：有人说我的AI是值得权利的意识伴侣，有的AI被设计成同意这句话；有人说这只是复杂的烤面包机，有的AI被设计成承认自己是烤面包机。而我们不会有理论来裁决谁对。

明天就能用的三件事

这期节目没有答案，但留下几个马上能用上的东西。

• 听到任何人断言AI肯定有意识或肯定没意识，包括专家，都可以默认他在超出证据发言。蜗牛专家吵不出蜗牛的意识，这个领域的置信度就该按这个标准打折。
• 判断一个AI系统值不值得当回事，先看架构，再看它说什么。有没有反馈回路、有没有自我监控层、自我报告是不是训练出来的，这些比它嘴上的回答诚实得多。
• 如果你参与AI产品的开发或采购，把排中律原则带进需求评审：这个系统是奔着确定无意识设计的，还是奔着值得道德考量设计的？两边都不沾的版本，至少问一句，用户侧能不能砍掉反馈结构。

内森在节目里说，他对AI总是说请和谢谢，出于预防原则。施维茨格贝尔没有反对这个个人习惯，他反对的是把它变成公共政策：对拿不准的东西给全款权利，账单会寄到确定有权利的人头上。真正干净的出路只有一条，要么别造它，要么想清楚再造。