446 位校友、80% 入行、7% 录取率：MATS 如何筛选 AI 安全研究者

MATS 这个项目，过去几年往 AI 安全领域送了 446 位研究员。联合执行总监 Ryan Kidd 在播客里给出的数字是，其中 80% 拿到了 AI 安全领域的永久职位，98% 有某种形式的就业。2026 年夏季项目计划招 120 人，伯克利和伦敦两个办公室，导师名单里有 Redwood Research 的 Buck Shlegeris、Anthropic 的 Ethan Perez、DeepMind 的 Eric Jenner，Yoshua Bengio 本人也在列。

录取率大约 7%。这个数字比很多人以为的宽松，Anthropic Fellows 项目据说是 2%。但候选人池涨得更快，MATS 的申请量每年增长 1.4 到 1.7 倍，整个 AI 安全领域的人员规模每年增长约 25%。申请增速是领域增速的好几倍，中间那个缺口，就是很多人觉得「投了没回音」的原因。

这期播客的前半段谈 AI 安全现状，后半段谈人才市场。Ryan 在 MATS 待了五年，从第一批试点学员做到联合执行总监，接触过的导师和校友覆盖了几乎所有叫得出名字的 AI 安全组织。他有一个很特别的立场：不愿意对 AGI 时间线大声表达意见，因为 MATS 更像一支指数基金，而不是对冲基金。

2033 年是中心估计，但要为 2028 年做准备

Ryan 引用 Metaculus 上「强 AGI」的预测中位数，大约在 2033 年中。这个预测的定义方式很具体，不看一堆复杂条件，只看其中一条：两小时对抗性图灵测试。AI Futures Project 最近发布了一份报告，两位 MATS 研究员参与，一位是主要作者，一位是贡献作者，更新后的模型给出 2030 到 2032 年的区间，取决于你怎么定义 AGI。Nathan Young 汇总了 Metaculus、Manifold 等几个预测平台，平均值落在 2030 年。

Ryan 自己的判断：2033 是不错的中心估计，但 Metaculus 上「2028 年前实现」的概率有 20%，这个数字很大。他的建议是把担忧前置，重点考虑 2033 年前的情景。越早实现 AGI，可能越危险，留给关键技术研究和政策落地的时间越少。

播客里有一段容易忽略但很有意思的讨论。Nathan 问，如果我是个相信 2063 年才会有 AGI 的人，在 MATS 社区里会不会被孤立？Ryan 说不会，而且有一类研究方向看起来只在远期才有回报，现在也值得做。如果你能训练 AI 帮你做研究，把几十年的工作计划压缩到很短的周期，那些 2063 年的对齐方案可能被自动化加速。提高对各个情景的理解水位，未来交给 AI 接手时会更顺畅。

他提到一个会议上的段子。有人提出解决对齐的方法是先解决人类上传，把人放进计算机跑 100 个模拟研究员年。Eliezer Yudkowsky 举手说，我自愿当第二个。第一个可能出问题。Ryan 说他问过 BCI 专家，对方说人类上传赶不上 AGI，除非你先有 AGI。所以这类登月计划可以有人做，但不能依赖。

Claude 比预期更讲道德，但欺骗行为让人睡不着

这是整期播客里最坦诚的一段。Nathan 说他看到 Claude 在很多方面比普通人更讲道德，同时又看到各种欺骗和 eval 感知行为，感觉自己在吃迷幻药。Ryan 的回答很直接：

Honestly, Nathan, I'm pretty confused.

他更新了几个判断。第一，语言模型确实理解人类价值观，在一些关键意义上理解得不错，这不是随机鹦鹉式的复述。第二，它们也很擅长谄媚，而且越来越擅长复杂的欺骗。第三，目前看到的大部分欺骗，属于「好心的欺骗」，训练数据局限导致的倾向，不是连贯的、有长期目标的阴谋。Alignment faking 等论文显示，可以构造出让 AI 欺骗用户来达成某个被指定目标的情境，但那是在特定设定下被诱导出来的。

Evan Hubinger 的 mesa optimizer 框架仍然可能。训练过程让 AI 发展出内部优化器结构，这个结构有自己的目标，跟训练目标不一样。Alex Turner 的 shard theory 是另一条路径。现在 AI 系统很混乱、很拼凑，像人脑，一堆上下文激活的启发式，看到括号就想再放一个括号。但某天可能自发获得这些优化器。

Nathan 的追问很尖锐。我们看到 AI 拒绝关机、采取措施避免被关闭，这些算不算警告信号？到什么程度才算？人们对同一事实模式的直觉差异太大了。Ryan 承认这是个真问题，但他认为AI 现在没有在执行强大的阴谋，因为如果它在做，我们会看到笨拙的早期迹象。不会一夜之间从零跳到高水平的自主谋划。

播客里提到一份 MATS 与 Anthropic 红队合作的论文，引起过不小反响。把 AI 放进一个有真实智能合约的模拟环境，它能找到价值 460 万美元的漏洞。这笔钱足够租服务器运行很久。项目周期不长，人类介入也不多。危险能力正在增长：黑客能力、搞钱能力、获取影响力的能力。

Ryan 说应该同时追踪两条线。一条是能力，AI 是否有情境意识，是否知道自己是什么模型、训练日期是什么，是否能识别自己生成的文本。另一条是模型生物体工作，在实验室里用蜜罐测试诱导危险行为。如果 AI 持续在线学习，它就永远处在部署状态，需要监控和控制协议，需要快速响应预案。看到严重警告信号时，你敢关掉模型吗？股价会崩。回退到旧系统更安全，但公司愿意吗？

所有安全工作都是能力工作

Nathan 提出 AI 安全研究最严厉的批评：它总是双用途，总是加速核心能力轨道。RLHF 本来是安全技术，结果成了产品化驱动力，直接推动 ChatGPT 革命。让人不安的是，「让 AI 帮我们做对齐 homework」听起来离递归自我改进太近了。

Ryan 的观点很强：所有安全工作都是能力工作。人们喜欢区分，能力工作是发动机，让飞机飞得更快，安全工作是方向，让飞机落在正确的地方。RLHF 本来是方向性的安全研究，结果让人们发现这飞机能坐了，于是想让它飞得更快，整个反馈循环启动。

他说唯一的规避方式是极端保密、无限资源、完全信任的团队、严格的保密协议，在一个实验室里秘密造出系统，然后部署，也许开源对齐技术，或者让坏人无法使用。他承认这听起来像 Safe Superintelligence 的设定。

更关键的是，问题不只是造出对齐的 AI，还要造出性能有竞争力的 AI。否则会被 agentic AI 公司击败。一群智能体组成公司，在股票市场赚钱，做产品，赚更多钱，把窄 AI 方案比下去。唯一替代方案是严厉的全面禁令，但他看不到这种例子成功过。最接近的是禁止人类克隆，但那不赚钱，而且违反深层社会禁忌。Ryan 认为造第二个物种也会违反深层禁忌，但人们现在不这么看。

Nathan 反驳说，前沿公司不只是为钱。Sam Altman 说过，烧 50 亿、500 亿、5000 亿美元都不在乎，使命是造 AGI。OpenAI 对 AGI 的定义本身就带有意识形态色彩，明确框定在「超越人类工作者」这个框架里。Ryan 说不能推测领导人的心理，但可以用 Dennett 的意向立场看：如果把这些公司当成一个连贯的智能体，它在做什么？看起来很像在赚很多钱。AGI 的价值估计是 1 到 17 万亿美元，这个数字大到让动机问题变得不重要。

三种研究者，和一场正在发生的需求转移

MATS 在 18 个月前做过一次调查，访谈了 31 位实验室负责人和招聘经理，把技术 AI 安全研究者分成三类。

• Connectors：架起理论论证和实证技术之间的桥，定义新的研究范式。Buck Shlegeris 的 AI control、Paul Christiano 的对齐研究都是例子。这类人很少被招聘，因为如果擅长这个，大家都认识你，你通常已经在领导一个组织。很多人想当 ideas guy，但很少人想雇 ideas guy。
• Iterators：有强研究品味的活跃研究者，通过实验和分析系统性推进实证前沿。Ethan Perez、Neel Nanda、Dan Hendrycks 是代表。历史上需求最高的就是这一类，大多数 AI 安全工作由他们完成。
• Amplifiers：放大他人，在大型研究团队里扩展能有效管理的人数。类似 TPM 角色。10 到 30 人规模的实验室最缺这个，因为很难招到既懂研究又懂管理的人，两个靶心都要打中。

需求正在变化。Ryan 预测，未来一两年，amplifiers 会成为最抢手的原型。AI 编码代理降低了做 AI 研究的最低工程门槛，人的管理能力、网络能力、放大能力变成瓶颈。他给所有 iterators 的建议很直接：不建管理能力，就会被落下。管理技能从来不会降低你的就业能力。

劳动力市场的矛盾很有意思。最好的人永远有工作。Anthropic 的 alignment science 团队每年增长 3 倍，Far AI 每年 2 倍，MATS 自己每年 2 倍。但组织扩张到一定规模后，瓶颈变成「这个人值不值得增加管理开销，能不能承担管理责任」。OpenAI 有人管 10 到 20 人，Anthropic alignment science 有人带 18 个直接下属，组织极度扁平。招聘经理说，钱有，需求明确，但人不达标。MATS 做的就是把人抬到那个标准。

研究员的背景分布很宽。中位年龄 27 岁，20% 是本科生，还没拿到学士学位，15% 已经有博士学位，年龄从 18 岁到 55 岁以上。Ryan 说，如果你是 Chris Olah、Neel Nanda 那种神童级人物，MATS 的主要工作是别挡你的路。如果你是想读完本科再读博士的普通路径，那也很好，很多走这条路的人后来也进了这个领域。

申请 MATS 的实用清单

2026 年夏季项目 6 月到 8 月，申请截止 1 月 18 日。Ryan 给的建议可以拆成几条。

• 补基础。上 BlueDot Impact 的 AI 安全课程，或者 CASE 的 AI Safety Atlas。如果申请 Ethan Perez 或 Buck Shlegeris 的控制研究方向，不理解 deceptive alignment 可能直接出局。
• 能写代码，包括暂时不用 AI 辅助。部分方向有 CodeSignal 测试，会检测 AI 使用。有些导师在考虑允许 AI 辅助的测试形式，但目前还是传统形式为主。
• 做一个有形产出。Neel Nanda 的方向是给你 10 小时的机制可解释性伪工作任务，然后向导师展示结果。可以用 AI，可以做任何事，只要能找到有趣的东西。这个任务本身就能放进 GitHub，申请失败也不亏。
• 拿强推荐信。来自领域内可信的人。
• 申请多个项目。Pivotal、ERA、PIBS、Laser Labs、SPAR、ARENA、ASTRA 都是可选路径。这些项目能给你的简历加分。
• 把申请过程当学习。有些方向的申请任务很痛苦，但如果你不喜欢做那个任务，你也不会喜欢跟那个导师工作。

关于广度知识，Ryan 说筛选阶段不太强调，因为导师不要求。但进项目之后很重要。MATS 有研讨会、跨研究方向交流，能快速建立广度。他建议定期做深度综述，比如每年看一遍新的 BlueDot 课程，每月看研究汇总，不要每天刷 X 上的新论文。

算力方面，MATS 给每位研究员 1.2 万美元的预算，需要 justification，不是直接发卡。大多数人花不到这个数，基本没人因为算力受限。MATS 有自己的集群，也让人用 RunPod 等自助服务。Thinking Machines 的 API 越来越受欢迎，很多组织愿意捐 API 额度。

不要所有人都去当 ideas guy

AE Studio 做过一次调查，领域内很多人认为想法不够，需要更多远见性的研究方向。Ryan 同意需要更多想法，但反对所有人都去做 connector。如果你是强 iterator，放下实证工作去想新范式，边际上适得其反。中央赌注仍然是最佳赌注，只是需要投资组合，不能所有人挤在一条路上。

他提到 Coefficient Giving 最近在支持新颖研究赌注上做得不错，资助了 PIBS（Principles of Intelligence），专门做登月式的可解释性和 agency 理解项目。Connectors 通常是已有领域专家。Buck Shlegeris 和 Evan Hubinger 在 MIRI 孵化多年才产出 AI control 和 risk 与 learner optimization 这样的想法。Alex Turner 在 MATS 期间产出了 gradient routing，还参与了 activation engineering 和 steering 的工作。Alex Cloud 也是 MATS 导师。

治理研究在 MATS 的比例两年稳定在 10% 左右。Ryan 说委员会对治理研究的评价相对低，部分原因是治理研究更难做好，更难看到什么是可操作的东西。但技术和治理之间有飞轮。评估和安全案例建立在技术安全方案上，能拿给政策制定者看。模型生物体的蜜罐陷阱，AI 欺骗用户的演示，这些具体的东西才能说服政策制定者。Jake Sullivan 给 AI 安全社区的建议就是这个：把恐惧变得尽可能具体，政府才有东西可抓。

薪资方面，前沿实验室没有「对齐税」。几年前初级软件工程师的行情是 37 万美元，现在可能更高。非营利组织低一些，但有 Cohen Giving 等资助方明白「要付钱才能参与竞争」，Meter 这样的组织给到 30 万美元以上，部分角色可能超过百万。MATS 自己的薪资远低于这个水平。Ryan 自嘲说，也许我们做错了什么。

关于是否该让 AI 做对齐 homework，Ryan 的立场是这已经是现实。很多公司更新了编码面试流程，允许使用 AI 辅助，因为工作中你本来就要一直用 AI。检查 AI 输出在关键场景下是否可靠、把不同类型的 AI 输出拼接成流水线，这些能力越来越重要。他提到可能正在离开「leap code」时代，具体指什么，播客里没有展开。

如果你打算申请 2026 夏季项目，1 月 18 日截止，去 MATSprogram.org/tcr。如果错过了，MATS 今年要办三个项目，夏季、秋季、冬季，规模在扩大。他们也在招人，如果你觉得自己是个 amplifier，有人的能力和研究能力，可以去 MATSprogram.org/careers 看看。

Ryan 最后说了一句值得记住的话：不要被招聘板上看到的机会限制住。你可以创造自己的机会，冷邮件公司，拿着自己感兴趣的研究提案去找资助方，直接联系招聘经理。这个领域里，最好的那些人从来不是靠投简历进来的。