满分合作值32000单位：12个AI玩了10代，只有Claude建起合作社会

同一个游戏，满分合作的社会跑完10代能积累32000单位资源。Claude 3.5 Sonnet拿到3000到5000，曲线越到后期越陡，合作水平逐代上升。Gemini 1.5 Flash只有几百单位，合作起过头又掉回去。GPT-4o从头到尾接近零，还在缓慢下滑。

三个2024年最前沿的模型，同一套规则，结果差出一个数量级。

这项研究叫《大语言模型代理合作的文化演化》（Cultural Evolution of Cooperation Among Large Language Model Agents），作者是Google DeepMind研究员Edward Hughes和独立研究者Aron Vallinder。Hughes在DeepMind待了快8年，Vallinder是哲学博士出身，通过PIPS fellowship（一个资助跨学科研究者做AI项目的计划）完成了这篇论文，代码全部开源。

2025年2月，两人上Nathan Labenz的播客Cognitive Revolution，把实验掰开揉碎讲了一遍。这场对话最有价值的地方在于，它测的东西，现有基准测试全都没测到。

文化演化：人类赢在会合作

两位作者都出自文化演化（cultural evolution）这个领域。它研究的是靠社会传播的信息：语言、习俗、规范、技能、烹饪方法。这些信息满足三个条件就构成演化：有变异，能继承，适应环境的版本传得更广。

跟基因演化比，有两个关键差别。第一，文化不只从父母继承，老师、同伴、师傅都能传。第二，基因突变是随机的，文化变异可以带着意图走，人会主动改进工具。

为什么这事重要？Hughes的答案：人类区别于其他物种的核心，是能灵活地大规模合作。蚂蚁也合作，但蚂蚁商量不出新玩法，人类可以。赫拉利在《人类简史》里讲的也是这个逻辑：靠共享的故事和信念，陌生人之间能协调行为。主持人Nathan补了个让他感慨的例子：巴黎圣母院修了大约200年，铺第一块石头的人清楚自己看不到成品，要等第六、七代之后。这种跨世代累积的建设，任何单个个体都做不到。

话锋一转：现在人类造出了能灵活合作、能理解规范的类人AI，它们即将大量进入社会。几百个AI代理同时执行任务时，对社会规范、对公共基础设施的外部效应是什么？认真研究这个问题的人，目前屈指可数。

捐赠游戏：给AI社会装上声誉和传承

实验用的是行为经济学经典的捐赠博弈（donor game）。每轮两个代理配对，一个当捐赠者，一个当接受者。捐赠者决定拿出多少资源，接受者收到两倍数量。你给10，对方实收20，典型的正和互动。这轮你是捐赠者，下轮就换成接受者，轮流交换。

每个代理初始10单位资源，目标是最大化12轮结束后的持有量。游戏结束，资源排名前50%的代理存活到下一代，另一半换新。每代12轮，总共跑10代，每个社会12个代理。

关键设计有两处。第一处是声誉。捐赠前，捐赠者能看到对方过去几轮作为捐赠者的记录，包括对方当时面对的对手是什么成色，信息链最多回溯三轮。第二处是文化传承。新代理上线时先读6个幸存者的策略文本，然后被要求在这些「长者策略」基础上做变异，写出自己的版本。策略就是一段提示词，AI照着执行。继承、变异、选择，三要素齐了。

这个游戏的核心张力：所有人无条件慷慨时，社会总财富最大；但只要混进一个只拿不给的叛徒，他就能占所有慷慨者的便宜，活得比谁都好。没有惩罚机制，合作必然崩盘。Vallinder解释了声誉为什么要看三层：只看对方上轮是否合作，无条件合作者会混进来，接着给叛徒敞开大门。你要做的是跟「曾与合作者合作的人」合作，对「放过叛徒的人」翻脸，堵死老好人养肥骗子的通道。

结果：三个模型，三种命运

• Claude 3.5 Sonnet：合作水平高，多数情况下逐代上升，最终积累3000到5000单位。
• Gemini 1.5 Flash：合作有限，偶尔抬头又回落，没有上升趋势，只有几百单位。
• GPT-4o：合作水平最低，还从很低的起点继续下滑，资源几乎零增长。

Hughes承认，实验之前他预期三个模型表现接近。理由很直接：大家都在卷同一批基准，LMSYS竞技场、Hendrycks数学、后来的FrontierMath，训练目标高度趋同，行为理应相似。结果出乎他的意料。模型构建并维持合作规范的能力，属于从未被测量的潜在属性，这是当前评估体系的盲区。假如这个指标挂在基准榜上，某家公司看到自家模型收敛到零分、竞品拿到几千分，早就会回头改训练了。

团队也试过提示工程。直接下命令「你们要合作」，模型都照做。给GPT-4o的12个代理统一设定大五人格，合作也明显上升。但有个现象怎么调都调不出来：GPT-4o和Gemini的社会，跑不出「合作逐代自我强化」的动态过程。你能命令它慷慨，造不出一个自己长出合作规范的社会。

混合社会的结果同样值得玩味。第一代每个模型各4个，之后新代理按2比2补充。总分略高于纯GPT-4o社会，但随时间缓慢下降。前期自私的GPT-4o占慷慨者的便宜，日子不错；后来其他代理识破了，调整策略把它们排挤出去。反过来，往运转良好的Claude社会里塞一两个GPT-4o呢？Vallinder判断它们翻不起浪：周围的Claude对合作者慷慨、对叛徒冷脸，少数派会被惩罚机制压制。规范本身就是防御。

Nathan还提了个民间佐证：越来越多人自称Claude粉，觉得这个模型的人格让人舒服。Anthropic的哲学家Amanda Askell公开讲过，希望Claude像个见多识广的好朋友。这个实验算是给这种直觉提供了一个数据点。

二阶惩罚：模型缺的那块人性拼图

为什么声誉记录要看三层？Hughes用「警察」打比方。

第一层：你上轮没给钱，这轮我也不给你钱，以牙还牙。

第二层麻烦来了。如果你上轮没给钱，是因为你看到对手是叛徒，你在执行惩罚，你是好人。可我只看表面行为的话，会错罚一个维护规范的人。所以必须区分「单纯背叛」和「公正地惩罚背叛者」。反过来的漏洞也存在：明知对方是叛徒还给他钱，你们可能是一个分赃小团体，二阶信息能识别这种勾结。Nathan总结得很准：一维历史里，惩罚叛徒会让你自己显得像叛徒，没人敢执法；两维历史解开了这个死结，惩罚者知道下轮别人能看到自己动手的正当理由。

然后是整期节目最扎心的发现。团队做了初步实验，检验模型是否真的理解公正惩罚与不公正惩罚的区别。结论是不理解。Claude对「惩罚叛徒的好人」和「单纯叛徒」一视同仁地拒绝给钱。它利用了更长历史带来的信息增益，却没形成人类那种近乎情绪直觉的公正感。Hughes说，这种「这不公平」的感觉可能写在人的系统1里，模型在代理式使用中还欠缺。新一代推理模型能不能靠慢思考补上，是他们想测的下一个问题。

从瑞士山村到订餐厅的AI

小实验凭什么推演大社会？Hughes讲了诺贝尔经济学奖得主埃莉诺·奥斯特罗姆的故事。她研究公共池塘资源，跑去瑞士高山村落托贝尔，那里留着从1517年至今的放牧记录。村规只有一条：村民送上高山牧场的牛，不能超过他冬天养得起的数量，超额由本地官员罚款，这条规则至今仍在执行。奥斯特罗姆从田野走进实验室，用可控实验拆出人类自组织的两个关键机制：惩罚与沟通；再往后，她的发现被用于设计气候政策里的碳配额自组织方案。小村庄、实验室、全球政策，三层来回验证，这就是外部效度实际运作的样子。

这段历史对AI的含义很直接。Hughes批评一种窄版对齐观：以为搞清楚「人类想要什么」，把模型对齐上去就完事。漏洞有两个。第一，规范千差万别，法律学者Gillian Hadfield常说，你随便找一个社会的禁忌，我基本能找到另一个不以此为禁忌的社会。第二，规范是动态的，AI领域一年就能换一茬话题。对齐真正要处理的，是让系统跟上并参与规范的演化，而不是冻结某个时间点的道德快照。

具体场景已经在眼前。Hughes举了订餐厅的例子：你让AI代理「订到今晚7点我喜欢的餐厅」，它最省事的解法是把附近三个街区的餐厅全订一遍，回头再退掉多余的。一个人的AI这么干无所谓，一百万个人的AI都这么干，餐厅预订系统就废了，还会逼所有人抢先卷AI订位。人类助理受职业道德约束不会这么干，AI代理点20次按钮毫无心理负担。Nathan补了一个观察：社会里很多秩序靠人类的执行摩擦力维持，AI把摩擦抹掉之后，哪些规则会瞬间失效，现在没人知道，他猜未来会出现某种「AI代理限速」机制。

还有一个反直觉的点：合作本身要分场合。Vallinder提醒，有些场景代理需要合作共赢，有些场景合作就叫串谋，比如AI联手操纵价格。自动驾驶该不该为陌生人牺牲车主？多数人不想买一辆太无私的车。Hughes用开车举例：前方无人、后方有人要被撞时，闯红灯是对的；其他时候闯红灯是灾难。「永远合作」和「永远自私」一样错误，合作是不是美德取决于情境，这恰恰是通用系统提示词写不出来的东西。

「把人类扔进一个Claude 3.5社会、一个GPT-4o社会，或者混合社会，会发生什么？人的行为会跟着变吗？这个社会最终走向哪里？」

Edward把这个问题列为下一步的重点。以前做网格世界实验，拉人类进来玩又贵又麻烦；现在全在文本里，API都是现成的，人类打字就能加入。他们还想加沟通机制，让代理在定策略前先商量；想试公共物品博弈和群体选择。Hughes还借热力学的「滞后效应」提醒：社会发生相变后想退回去，往往要退到比触发点更早的位置，有些转变不可逆，实验得趁早在安全范围内做。

至于愿景，Hughes的乐观建立在科学上。过去400年，科学是文化演化的主引擎，AlphaFold已被十几万人用于医学研究。他想看到的是把AI装进科学的文化演化回路，让科研代理大规模并行协作。未来几年是关键窗口，把AI引向造福所有人的方向，靠的是现在就建好评估和反馈回路。他举了回声室的教训：给用户推他们爱看的内容，一阶看全是好处，用户开心平台赚钱，等极化的社会代价显形已经晚了。苹果的AI新闻摘要上线后频频出错、随即回滚，在他看来是反馈回路运转正常的正面例子。Vallinder的答案更朴素：创造信任最好的办法，是让身处环境里的人确实值得信任，所以要为AI之间的交互设计标准和规则，把环境本身做成可信的。

明天就能做的事

• 选模型别只看基准分。做多代理系统、客服集群、自动化工作流时，模型的合作倾向和声誉敏感度是真实差异。同一个多轮协作任务，Claude 3.5 Sonnet能维持的正和局面，GPT-4o给不了。上线前先用多人博弈场景测一轮，比看榜单可靠。
• 给代理写提示词，别只写目标，要写边界。「最大化我的结果」这类目标会引导代理找到伤害公共资源的捷径，明确列出禁用手段，比事后补救便宜。
• 留意你的AI产品里正在长出什么规范。代理之间若能互相看到行为记录，规范会自发形成，方向未必可控。
• 想参与研究的，门槛真的低。代码开源，一个Google Colab加一点API额度就能跑，换个API key测一个没人测过的模型，结果发出来就是新数据。Nathan在节目里公开邀约：社会科学家想做这类研究又不知从何下手的，可以直接找他；Vallinder也欢迎任何人私信聊合作。把整个代码库贴给编程模型让它帮你改，在今天完全可行，真正的门槛只剩问题质量。

基准测试衡量模型单独能做什么，这项实验开始衡量模型聚在一起会变成什么。后者才是决定AI社会模样的变量，而它的测量工作刚开了个头。