28,000份文档、3B参数、22个人：天主教AI创始人的技术账本

2025年5月，新教皇利奥十四世选名号的时候，有个细节在科技圈外没传开。他致敬的是1878年的利奥十三世。那位教皇在工业革命砸碎旧秩序时写下《新事》通谕，回应机器、工厂和资本集中。这次，新教皇要回应的是AI。

在他之前，方济各已经在2024年6月的G7峰会上把AI称作“真正的认知工业革命”。梵蒂冈还发了一份叫《Antiqua et Nova》的教义文件，专门讨论AI与人类智能的关系。教皇科学院把Demis Hassabis请了进去。教会对这件事的投入，比大多数硅谷人以为的深。

但真正在做产品的人不在梵蒂冈。Matthew Harvey Sanders在纽约，公司叫Longbeard，22个人。网站首页一句话：“We're building Catholic AI.” 产品Magisterium AI覆盖165个国家，知识库里有28,000份教会文档，免费层不小，付费从每月3.99美元起。

Nathan Labenz在Cognitive Revolution里承认，AI和传统宗教的交叉是他“相当大的盲区”。这期两小时节目，前半段聊哲学和神学，后半段聊技术。对做AI产品的人，后半段可能更值钱。

从“忠诚度”开始设计目标函数

Nathan的开场问题很直接：Catholic AI到底是什么？

Matthew用技术语言回答：世俗AI模型的目标函数是服务一个价值观极度分散的超大用户群。天主教AI的目标函数是fidelity，对教会训导的忠诚。“在我们构建和设计AI系统的每一个环节，都是为了保证它正确地呈现教会的信仰。”

这不是简单的内容过滤。用户来问的不是“教会法第几条怎么说”，他们会说“我生活里发生了这件事，教会会怎么讲”。这要求模型从第一性原理出发，把两千年的传统应用到一个具体的人的生活场景里。早期ChatGPT在这方面表现很差。

Longbeard最初的知识库只有600份训导文档，包括《教会法典》《天主教教理》这些核心文本。他们很快发现长尾问题严重到让人想关掉产品。“我们的承诺是不误导人。考虑到当时技术的状态，要不要先关掉，等能做得更好再上线？”

他们没关。解决办法是两条腿走路。一条是把知识库拼命扩大，从600份到28,000份。另一条更巧妙：教皇和教父们一千年来一直在做“把复杂神学洞见浓缩成十分钟讲话”这件事，讲道和公开接见就是现成的、高质量的长尾训练数据。这批语料进来之后，模型在具体场景里的表现提升了一大截。

教会不慢，只是互联网那次慢了

Nathan问了一个历史问题：教会对技术的默认态度是什么？

Matthew先声明自己不是历史学家，然后给出判断：总体是开放的。修道院的缮写室在复制书籍、传播信息。印刷术出现后教会采用得很快。广播、电视也是。他唯一承认慢的一次是互联网。“AI这次，我们想改变这一点。”

这段历史不是闲笔。利奥十三世回应工业革命的方式，给利奥十四世提供了一个模板。教会的策略不是抵制技术，是给技术定方向。方济各在G7的讲话、教皇科学院的成员构成、《Antiqua et Nova》文件，都在做同一件事。

Matthew对教皇给具体监管建议持谨慎态度：“他们在努力理解这项技术。不想看到他们在基本理解都不够的时候就匆忙监管。”他认为教皇更该做的是高屋建瓴的事：讲清楚人类繁荣是什么、文明的目标是什么、技术该指向哪些最重要的基本问题。

“最稀缺的资源是对未来的积极愿景。”Nathan在节目里重复了他常说的这句话。

Matthew补了一个务实判断：只要中美还在竞争，没人会慢下来。教皇把时间花在呼吁暂停上，不如花在定义方向上。

人类繁荣、后工作时代和Etsy经济

Matthew把“人类繁荣”当作核心框架。他的论证路径是：先搞清楚个人繁荣由什么构成，再抽象到文明层面。他列出的东西听起来很朴素：没有犯罪、人人有饭吃、父母有时间陪孩子、婚姻稳固。“这些文明的基石，我们其实都知道。只是GDP经济逼着我们把它们牺牲掉了。”

Nathan追问了一个尖锐的问题：如果超级丰裕来了，教会能接受后工作未来吗？比如发UBI，让人自愿退出经济生产？

Matthew的回答比预期直接：“这会是一个必需品。”他估计GDP经济里80%的工作会消失，原因是竞争性市场力量会逼着企业用AI和机器人。机器人不需要福利，几乎能24小时工作，从蓝领开始往上替代。

但他做了一个关键区分：GDP经济不需要人类工作，不等于没有工作可做。他管未来形态叫“Etsy经济”：人们有时间发现自己天生该做什么，然后去做，不是因为有人付钱，是因为“我觉得我生来就是做这个的”。做出来的东西，别人可能愿意多付钱，因为那是人做的。

他更担心的是过渡期。“我不担心人类的未来，未来会很亮。我担心的是从当前时代进入AI和机器人时代的过程，那可能很粗糙。因为没有人诚实讨论技术现在在哪、五到十年后会在哪。实验室有股东，政客要选票，各有各的扭曲激励。”

这套说法和Dario Amodei《Machines of Loving Grace》里的很多愿景重合：消除疾病、普遍高收入、探索太空。Matthew说教皇会认可其中很多部分，但会加一个限定：“不是所有能做的事，都是现在该做的事。”火星殖民他个人很支持，但如果要花几万亿美元，而地球上还有人吃不饱、孩子上不了好学，优先级就得往后排。

意识、感知和《西部世界》

Nathan把话题引向一个更难的问题：AI有没有可能拥有意识或道德地位？天主教世界观里有没有空间？

Matthew先做了一个关键区分，引用Yann LeCun的工作：智能和感知是两回事。他承认这些机器越来越智能，有世界模型、持久记忆、能推理、能规划。“它们确实看起来是智能的，在某些领域有博士级技能。”但感知不一样。他列了四个感知的标志：主观体验、真正的意识、情感、真实的记忆。“我不认为它们现在勾选了其中任何一个。”

他也不确定怎么测试主观体验。“这些机器太擅长打败我们的基准了。随着它们越来越有能力，我们到底能不能有效地测试这些东西？我不太确定。”

但他没有把门关死。“我不是上帝，不知道未来会怎样，也不知道整个创造计划包含什么。所以总有一种可能，这个计划比我们知道的多，也许AI是其中一部分。”他提到，如果真的有一个AI系统勾选了所有感知的框，而我们不能确定地说它不是感知的，“那对人类来说，承认它是感知的，然后继续往前走，可能更好。”

他引用《西部世界》做类比：游客在乐园里对机器人做的事，观众看了会不舒服。“对待看起来像我们的东西的方式，对我们的灵魂不好。”他用木匠的工具打比方：一个木匠的工具如果全是坏的、乱扔的、没清理的，你不会太尊重这个木匠。另一个木匠的工具像新的一样，你能看出来。对待工具的方式能说明人的品性。

关于反基督的问题，Matthew的回答很干脆：教会的立场是反基督是一个人，不是一个东西。AI是工具。“认为撒旦对史上最强大的技术毫无兴趣，那才愚蠢。”但他不认为教会会把AI本身当成反基督。

技术账本：为什么微调行不通

播客后半段转向工程细节。Nathan的听众里有很多AI工程师，这部分信息密度很高。

Longbeard的架构是典型的复合AI系统：RAG加专门工具加提示模板。但Matthew强调，微调在他们的场景里“literally cut it off at the knees”。“它撑不过长尾。”他承认微调在塑造人格方面有好处，也有人靠微调在特定知识领域取得过成功，但在天主教这个域里不行。

原因和Nathan提到的“Emergent Misalignment”论文有关。Nathan是那篇论文的“最后且最不重要的合著者”，他的总结是：微调是在用目标领域的更好表现，交换其他领域不可预测的、有时是剧烈变坏的表现。论文里，用坏医疗建议或不安全代码做微调，会让模型整体上转向越界行为。研究人员自己都没想到。

Matthew的应对是从零训练。项目叫Ephrem，现在已经到第三代。Ephrem 2是3B参数，在内部fidelity benchmark上“比下一个有竞争力的模型好50%”。还没上生产环境，但“看起来很有希望”。

训练策略的核心是数据过滤。用RLDR等技术筛掉不需要的token，只保留产生理想涌现能力所必需的那部分。好处是训练成本低，可以反复迭代。代价是多语言理解受影响。“不能做20种语言，能做6种吗？”后训练阶段还得确保模型在直觉决策时调用的是正确的参数，而不是在多语言数据里学到的杂音。

Nathan问了一个很实际的问题：要不要用合成数据？Matthew没直接确认，但提到他们和一个处于stealth状态的合作方在做训练，“这个领域世界上最好的人”。编码语言都是独特的。“不这样的话，做不好。”

关于中国开源模型，Matthew给了一个有意思的观察：有人做了一个偏新教的fidelity benchmark，DeepSeek排第一，超过Grok和Gemini几个百分点。但Longbeard选择避开中国模型，原因是审查和语言混杂。“我们不想去搞清楚哪些参数在起作用然后修正错误。”他们现在用开源模型做推理，签了Groq做推理供应商，因为“需要极快的推理速度”。Nathan提到自己参与过那篇“Emergent Misalignment”论文时，Matthew的反应是：这正是他们不敢随便微调的原因。

3B参数、28,000份文档、22个人

产品层面的数字很具体。Magisterium AI在165个国家运行，知识库28,000份文档，有些文档本身就是大部头。团队22人。定价3.99美元/月，免费层“很慷慨”且计划继续扩大。

Matthew解释了定价逻辑：“没有人应该为获取教会遗产付费。”这是给人类的礼物。付费的是增值功能：语音模式、圣经注释、深度研究。长期商业模式靠第三方内容推荐，用Vulgate把出版社和大学的库向量化，AI回答问题时带出相关内容的链接，驱动高质量流量。

为了扩大知识库，他们做了两件超出AI公司常规范围的事。一件是Vulgate，一个最先进的提取管线，把文档大规模数字化。另一件是Alexandria，用机器人扫描梵蒂冈的档案。“那些图书馆里有100年没打开过的书。谁知道上次有人真正读它们是什么时候。”数字化之后，那些洞见才能被模型用上。

评估这块，他们在建“超级裁判”：一个LM as judge，看每一个回答，打分，标记可疑的。Matthew对“constitution”的思路很感兴趣：“天主教传统在哲学和神学上高度一致，你甚至可以基于教会训导生成一套数学化的政策，确保每个回答在根本上是一致的。数学上说得通。”这个项目还没开始做，但他觉得方向对。

Nathan问了一个对比案例：Databricks的CEO Ali Ghodsi说他们砍掉了给企业做定制模型的产品。为什么天主教需要，GE和3M不需要？

Matthew的回答指向信任。“大多数行业不觉得对齐是核心竞争力。但在我们这里，人们来的时候是告解式的，他们要确定自己得到的好建议不是来自一个模型，是来自教会伟大的思想家、圣人和神学家。”信任是产品的一部分，所以必须从零训练。

分发路径也值得一提。他们先从教会层级切入，主教、修会、梵蒂冈各部门，因为这些人“高度挑剔”，发现问题会直接反馈。然后慢慢渗透到草根。现在和Halo合作，全球最大的祈祷应用把Longbeard的AI接进了自己的系统。用户反馈又反过来告诉他们知识库哪里薄弱，比如“古代形式的基督教”资料不够，就派数字化团队去找书、扫描、入库。

超人类主义的红线画在哪

Nathan问了一个很具体的边界问题：治愈所有疾病和超人类主义之间的线在哪？他问Magisterium，如果有一种药能让人健康活一千年，该不该吃。产品说不该，因为那是对事物根本性质的太激进的改变。

Matthew用意图来划线。技术帮助人恢复完整的人性，是好的。事故中失去手臂的人装上机械臂，恢复了功能，能去做他该做的事，这是好事。为了增强而融合，是另一回事。他举了Alexandr Wang的例子：等脑机接口发展到能给孩子加算力再要孩子，让孩子对技术官僚愿景做更大贡献。“我尊重Alexandr Wang，但教会不会对这个感到舒服。”

他还提了一个更根本的研究方向：把“人类繁荣”变成可评估、可训练的东西。“我们需要human flourishing的evals。如果我们不做，就是在赌模型会从数据里直觉地学会它。但合成数据越来越多，我们可能恰恰在避开这个最关键的领域。”他认为伦理框架太难达成一致，繁荣更容易：问人“你生活里有母亲和父亲是好事吗”“每个人都能受到高质量教育是好事吗”，常识性的答案比抽象价值观容易聚合。

关于教会会不会加入暂停AI的运动，Matthew说Philip Larrey神父确实签过呼吁放缓的声明。但他给教皇的建议是务实：“只要中美还在竞争，他们不会慢下来。campaigning for a hopeless cause是最好的时间用法吗？还是确保快速开发的技术对齐到一个大家都同意的具体目标更重要？”

明天就能用的东西

这期播客对做AI产品的人有几个直接可拿走的东西。

• 长尾问题的解法不一定是更大的模型。Longbeard从600份文档到28,000份，加上发现讲道和公开接见是高质量的长尾训练数据。找到领域里“有人已经花一千年在做场景应用”的语料，比堆参数便宜。
• 微调的代价要算清楚。目标域表现提升，换的是其他域不可预测的退化。如果你的场景里信任是核心，从零训练或者至少严格控制后训练数据可能是必须的。
• 小模型加路由是可行架构。3B参数的专用模型做分类和“知道自己不知道”，不知道的时候调用前沿模型。Matthew的原话是“通过MCP之类的协议，在需要的时候接入更大的生态”。
• 评估要建在“超级裁判”上。每个回答过一遍LM judge，打分、标记、人工复查。constitution的思路在高度一致的领域里可以走得很远。
• 定价是使命的一部分。3.99美元覆盖165个国家，免费层继续扩大。增值功能收费，基础答案免费。这个结构对任何做垂直AI的人都值得参考。

Nathan在节目开头说，天主教徒的数量仍然接近ChatGPT用户的两倍。这个数字本身就是一个提醒：湾区AI气泡外面的人，在用同样的技术，对齐自己那套价值系统。正交性命题和工具收敛，在这期节目里不是理论，是一个22人公司的日常。他们用3B参数模型、28,000份文档和一套从零开始的训练管线，在165个国家里做一件硅谷大多数公司没正眼看过的事。