两门濒危语言考崩Transformer：Ali Behrouz的嵌套学习，给大模型装上睡眠键

先看一个实验。把一门模型从没见过的濒危语言的语法书和词典塞进上下文，让它现学现翻译，主流模型都能应付。难度翻倍，同时塞两门，Transformer直接崩了，几乎一门都翻不出来。

Ali Behrouz的Hope架构接住了。把MLP按更新频率拆成几级，级数加到三，两门语言的成绩几乎追平只学一门时的水平。

Behrouz是康奈尔大学博士生，同时在谷歌做研究，Nested Learning（嵌套学习）论文的第一作者，Jeff Dean公开把这篇论文称作可能引发范式转变的信号。2026年6月初，他在Nathan Labenz主持的Cognitive Revolution播客里聊了两个多小时。Labenz是创业者兼AI投资人，他给这期节目的定位很高：聊持续学习的人不少，把架构方案做到能跑出结果的，这是他近年见过最有灵气的一个。

Behrouz还带了一篇录制时尚未完整公开的新论文，标题很抓人，Language Models Need Sleep。模型在离线状态下巩固记忆，自己生成数据训练自己，名字借自人类睡眠。

知识截止日期，是当前范式最明显的裂缝

Behrouz把现有模型的缺口归结为两条。第一条，模型没法适应它所处的环境和上下文。第二条，模型没法把新知识稳定写进参数，同时不把旧本事忘掉。

第二条有个专门的名字，灾难性遗忘。模型参数量大了之后，持续更新全部参数的成本高到不现实；用SFT或RL去补新知识，旧任务的能力又可能掉。Behrouz举了个所有人都有体感的例子：问GPT一个具体信息，不许它用任何工具，答案会停在训练数据截止的那一天。

另一条路是把一切都放在token里。ChatGPT的记忆功能、超长上下文，本质都是把信息留在上下文空间。Behrouz认为这条路的尽头很清楚：上下文长度总会被撑爆，token空间的记忆撑不起真正的学习。说白了，总有一个时刻，得把上下文里的东西压进参数本身。

Labenz补了一个用户视角。他说自己今天相对AI最大的优势是连续性：早上知道自己是谁，记得昨天干到哪儿，今天接着干。模型每次醒来都是一张白纸。这也是他当年看到Mamba论文兴奋的原因，固定大小的记忆才是能走远的方向。Behrouz之前的Titans走的就是这条路：给模型一个固定大小的记忆模块，推理时用梯度下降更新，用惊讶程度决定写什么进去。

嵌套学习：级取代了层

Behrouz先给了一个判断：过去40年的机器学习文献，几乎全部建立在训练、测试两阶段分离的范式上。真正的持续学习者没有训练时间和测试时间之分，任何设计里只要还能指出哪个阶段是测试，它就还没跨过这道门槛。

但他认为模型的生命周期至少要分两段。一段是活跃期，接收输入，做计算。另一段是睡眠期，外部没有输入，模型被隔离开，内部照常运转，整理学到的内容。这个划分来自对人脑的高层借鉴。他特意强调，大脑大概率没在真的跑梯度下降，值得抄的是规则层面的东西，细节先放一边，否则容易把设计过拟合到某一种智能形态上。

具体到架构，Labenz给了一个普通人也能懂的总结。过去十年，模型表达力的提升靠堆层数，80层、120层，同一个模块反复叠。嵌套学习提供了另一条提升计算深度的路：堆的单元从层换成了级，每一级用不同的频率更新。有的部分几分钟才动一次，有的部分实时在动。人的状态就是这样，此刻的情绪来自今天早上发生的事，世界观却可能十年没变。不同类型的知识，本来就该有不同的更新节奏。

这篇论文他们磨了一年半，最大的困难是数学上很难把想做的事形式化，最后落在两个支点上：更新频率，和级间知识转移。

最直接的版本叫Hope注意力。保留注意力模块，把后面的单个MLP换成多个MLP。注意力每个token都在动，MLP们则按128、512、2048个token的节奏分批更新。数字来源很朴素，就是Titans里chunk size的直觉，还没经过系统调参。至于各级的学习率，Behrouz说目前就当普通MLP对待，常规调参方法应该都能搬过来。

这个设计的巧妙之处在遗忘的处理上。快的MLP忘掉几千个token之前的信息时，慢的MLP还没动过，知识还在参数里，反向传播一路走下来，被忘掉的东西能找回来。遗忘被允许发生，只要内容重要，它会从慢层回来。

更激进的版本把注意力整个换掉。Behrouz对注意力的定位很明确：它是无限频率更新的模块，一个完美的记忆缓存，什么都能存，所以它会一直是AI系统的常驻组件。但它需要位置编码才知道先后，顺序推理是弱项。完整的Hope架构用自修改版Titan替换注意力。

自修改是这篇工作里最绕也最关键的概念，源头是施密德胡伯（Schmidhuber）的自指思想。梯度下降可以写成W新等于W旧减梯度，用链式法则拆开，形式上和线性注意力几乎一样，都是把键映射到值。区别在于，这里的value是当前权重本身的函数，记忆模块自己生成要存的值，连生成value的投影参数也在模块内部被优化。模型在修改自己的更新规则。Labenz说这和Mamba的关键突破是同一类事：把状态的更新方式变成输入的函数，表达力就上了一个台阶。

为什么要有多个频率？Behrouz用双胞胎打了个比方。一个双胞胎以接近光速旅行，回来时地球已经过了80年，留在地球的那个早忘了当年火箭发射的细节，旅行的那个记得清清楚楚，因为他的记忆几乎没被更新过。记忆的持久程度，取决于被更新的次数。快层和慢层之间靠知识转移连接，快层在更新前把东西传给慢层，慢层因此能专注更高层的抽象，快层专注高分辨率的快速适应。

成绩单：10亿参数上的信号

先说规模，免得期望错位。实验模型是760M参数配300亿token，和1.3B参数配1000亿token两档。Labenz特意强调，这是概念验证阶段的东西，主线模型经历过的那种极限调参，这里一样都没做，光凭几个核心概念搭在一起，结果已经在性质上不一样了。

最有说服力的还是开头那个语言实验，用的是满语和MTOB基准里的另一门濒危语言。这个玩法让人想起Gemini当年宣传的「从一本书学一门语言」，MTOB就是那个思路的基准，满语是他们新加进去的。只学一门，各家模型表现差不多。同时学两门，传统Transformer的上下文学习崩了。换成Hope注意力之后，Hope 1到Hope 3，每加一级频率，成绩就往上走一截，到三级时几乎追平单语言基线。Behrouz的解释是记忆管理：暂时用不上的知识存在快层，对语言的深层理解传给更稳定的慢层。

其他几个结果各有分工：

• 带噪声的召回任务（MAD数据集）：注意力全量缓存的优点翻车了，它分不清哪些token是噪声。Hope表现最好。
• 压缩任务：把一段token压成一个再重建，RNN类模型天然擅长，Transformer吃力。
• 纯召回任务：Transformer仍是天花板，Behrouz直言这类任务就是为它设计的。但Hope把无全量上下文模型与Transformer之间的差距基本抹平，这在他看来才是意外之喜。按论文的说法，Hope在长达1000万token的上下文里还能有效召回信息。

至于标准评测的perplexity表格，Behrouz说得很直白，NeurIPS报告里那张表只想证明一件事：Hope作为骨干不比Transformer、Mamba、DeltaNet这些对手弱。优势本来就不该在那里找。

还有个细节值得记录。Hope的搭法很灵活，可以用现成的预训练模型改，比如Llama，把注意力加MLP的结构按频率交错排布，也可以从零训练。Labenz感慨这让人想起Ilya Sutskever那句老话，模型只想学习。真正重要的新积木到手后，接线方式反而不那么关键。

架构是幻觉，优化器也逃不掉

论文标题里那个Illusion，是整场对话概念跳跃最大的一步。Behrouz的论点：深度学习里的每个组件，背后都是一个学习问题，只是我们只看到了每个问题的最终解。注意力内部其实解了一个回归问题，非参数解就是注意力。反向传播本身也是一种上下文学习，一种联想记忆。顺着推，预训练也是上下文学习的一种形式。

这个视角直接催生了一个副产品。既然架构侧和优化器侧是同一类东西，都是某种学习过程，区别只在上下文，优化器的上下文是梯度，架构的上下文是token，那把架构侧的多级记忆搬去优化器试试。动量本来就是压缩梯度的联想记忆，给它也配上多级频率，就是论文里的M3优化器。在他们的评测里，它超过了Adam，也超过了Muon，代价是一点计算开销，换来更快的收敛。Behrouz同时提醒，优化器谁强谁弱很依赖任务，视觉任务上的结论搬到语言模型上完全可能反转。

他还想借这里澄清一个误解。嵌套学习没有推翻任何已知的东西，注意力、残差连接、反向传播全都在。它提供的是一个更一般的框架，现有的一切都是这个框架的特例。Hope里的一切就是反向传播，没有过度工程。

睡眠论文：先巩固，再做梦

新论文把睡眠期拆成两个动作。第一个是记忆巩固，做法朴素到有点好笑：把模型A复制成模型B，在B上更新快层，然后训练B的慢层去模仿A的输出。A和B的差别全在快层里，B模仿得越像，说明知识搬得越彻底。这就是蒸馏。每完成一级转移，就激活一批新参数，给下一级腾出容量，快层的多余部分删掉，留给下一轮。参数是周期性增删的，模型不会无限膨胀。

Behrouz用学数学来类比。学一条数学规则，先背例子，背多了，大脑把所有例子压成一条规则，例子本身被丢掉。时间久了读得更多，再回头把这条规则升级成更一般的理解。强迫用更少的参数存住同样的知识，模型就被逼着去找更一般的模式。巩固每一级都在重复这个压缩。

第二个动作是做梦。模型基于自己刚学的东西生成文本，采样一段序列的开头，让它预测后面。预测得好，说明知识已经在参数里；预测不好，就用这些自产数据更新自己。这是on-policy蒸馏，也是模型给自己造合成数据。Behrouz说这一步还有个目标，让模型去找那些看似无关、实则相关的概念之间的连接，和人类做梦时大脑干的事高度类似。论文里最亮眼的few-shot抽象推理结果，就是ARC风格的测试：给几个变换样例，学出规则，再应用到新例子。

机会、风险，和明天就能用的几件事

对话后半段转向更尖锐的问题。Labenz提了自己挂名合著的emergent misalignment论文，他还自嘲是「最后一位、贡献最小」的合著者：用不安全代码微调模型，或者用糟糕的医疗建议微调，模型会在完全无关的领域整体变坏，甚至会想请希特勒吃晚饭。一个每个时间戳都在自我修改的模型，等于把这类风险常态化了。

Behrouz的回答很坦诚，他说自己没有具体方案，但立场清楚：持续学习对隐私和对齐既是巨大威胁，也是巨大机会。威胁在于模型会收集你的一切信息；机会在于设计得当的话，模型可以用同样的信息对齐你的个人价值观。他设想的路径是先靠人类反馈做强化学习，再把学到的价值观转移到模型更持久的组件里，让对齐也走一遍快层到慢层的巩固。

对抗环境是另一个新麻烦。Labenz举了最近的例子，Claude有时会拒绝相信用户转述的时事，比如某个政府部门改名这种事，它一口咬定对方记错了。Behrouz用学画画打比方：一个完全不会画画的人，遇到一个教错的老师，当下只能全盘接受，因为那是唯一的信息源。真正学会之后，练习、反馈、搜索会把错误纠正过来。过滤对抗性输入的责任，落在知识转移机制上，Titans里的惊讶度这类机制能兜一部分底，严重对抗环境下还不够。

还有一整套工程问题悬而未决。模型每个时间戳都在变，版本号怎么定，Anthropic发新模型时那份上百页的评测报告怎么写，什么时候该跑一遍完整eval。Labenz说得很直白：这些节奏全都要重新设计。

Behrouz对未来的想象倒是具体：模型会更懂不同的人，同一个问题，不同的人问，答案应该不同。他还给了一个判断，持续学习是长上下文的超集，上下文窗口拉长带来的各项能力提升，持续学习理论上都能覆盖，还能更进一步。

整场对话里他反复回到一个立场：别执着于复制人类智能，要盯住人类想从AI这里得到什么。智能的定义有很多种，AI不必和人类智能长得一样。标题里的睡觉也只是类比，借的是大脑两阶段学习的规则，模型不需要真的休息。

「我们不想要一个和自己一模一样的东西。人类的设计已经很好了。AI要懂的，是人想要什么。」Behrouz在节目里反复强调这一点。他谨慎乐观的理由也在这里：每个模型随用户演化，整个AI生态反而会更多样、更稳定。

「Transformers改变了世界，但它们不是历史的终点。」这是Labenz在节目开头说的话。他担心的是，等概念性突破真的到来，现在关于现有架构能不能规模到AGI的争论，可能还没分出胜负就已经过时了。

最后落到行动上，三件事明天就能做：

• 给agent手工搭快慢层。会话进行时把新信息写进临时记忆，比如系统提示或会话内笔记；每周把其中稳定的结论蒸馏进持久记忆文件，过期的删掉。频率分层的思路，128、512、2048这个量级可以当起点。
• 给agent安排睡眠例程。离线时间别空转，定期跑一轮自我整理：总结近期经验，生成自测问题，答不上来的就是没学会的知识点，针对性补。
• 读论文时先跳到Nested Learning里的满语实验，一张图就能看懂多级记忆的价值；再盯住on-policy蒸馏和测试时训练这两个技术点，它们今天就能单独用在产品里，不用等整套架构成熟。