一千张H100要跑115天，2.2万张只要五天：GPT-4级训练正在变成日常实验

2.2万张H100，五天。

这是Cognitive Revolution 2023年10月18日一期节目里，主持人Nathan Labenz算出来的一笔账。Inflection AI刚融了13亿美元，宣布要买2.2万张H100组一台世界顶级超算，创始人Mustafa Suleyman正是DeepMind的联合创始人。用这个集群跑出GPT-4训练所需的全部算力，大约只要五天。Nathan还补了一句，这个纪录估计撑不了多久就会被刷新。

原料很简单。一张H100每秒约做一百万亿次运算，10的14次方；训练GPT-4，外界估计吃掉10的24次方FLOPs。两个数一除，一张卡要连跑一百亿秒，三百多年。一千张卡组队，115天；2.2万张卡，五天。Nathan强调全是毛估估，集群的理论峰值和实际吃到的算力之间隔着大量工程，架构差一点、小实验挤占一点，时间都会拉长。但量级摆在这里：GPT-4级别的训练，正在从两年磨一剑的工程，变成大实验室一周一轮的实验。

这种集群要花几亿到十亿美元，全球没几家买得起，可买得起的也有几十家。传闻中Google的Gemini算力还要大五倍，Nathan觉得传闻本身定义不清，但就算按五倍算，Inflection规模的集群不到一个月也能跑完。

这期是「Transformer的未来」系列上篇，Nathan按影响力和概念复杂度递进，拆了四篇论文，从Google的搜索增强，到微软那个名字起得很挑衅的递归自我改进框架，再到MIT团队给大模型做的「脑部扫描」。联合主持Erik Torenberg和嘉宾Trey Kollmer在座。对话里有人泼冷水：GPT-2上做实验很便宜，GPT-4上做实验很贵，小模型上的结论能不能迁移到大模型，一直是悬案。也有人补了一句，需求要是暂时跟不上，多出来的算力正好拿去做实验，算力会自己找事干。

Nathan真正关心的问题只有一个：这些零散的改进，最后会叠加起来，还是各走各的？他的答案就藏在开头那笔账里。当跑一次GPT-4级实验只花五天，实验室就能以周为单位试错，把各家发现拧进同一个系统。他没准备好把这叫长期指数，但至少，S曲线最陡的那段已经踩上去了。就算后面有平台期，只要平台够高，也足够把世界改个样。

编剧工会只赢了一半，OpenAI一年涨了50倍

正题之前，节目先聊了两件当时的大事。第一件是编剧工会（WGA）罢工收尾，编剧们对协议整体满意。涉及AI的条款：制片厂不能用生成式AI把编剧从署名里挤掉，也不能拿AI生成的初稿当「原始草稿」，再找编剧改第二稿。

但训练数据这块，工会基本空手而归。

「我们保留就此主张权利的权利。」

翻译过来：啥也没拿到。制片厂的理由很直白，OpenAI这些公司都在拿剧本训练，凭什么单独要求我们承诺不用？工会可能去仲裁等别的场子接着打，前景不明。

第二件是OpenAI的收入。2022年全年两千多万美元，2023年夏天年化破10亿，最新数字13亿美元年化，月入超过1亿美元。Nathan管这叫「经典的」同比增长50倍，又补了一句，连Uber最猛的那阵子也就这个量级。

赚钱的同时OpenAI在降价。GPT-3.5 turbo是2美元一百万token。Nathan算了笔账：10亿美元能买500万亿token，平摊给全球50亿人，每人每年10万token。听着多，他前几天给一个React小应用加个功能就烧了2.5万token，用的还是更贵的模型。token消耗离天花板远得很，降价是在给需求点火。

策略也看得出来。Llama 2一发布，OpenAI立刻放出GPT-3.5微调，生怕在哪个维度落后太久；GPT-4微调在路上，11月6日开发者日可能还有一轮降价。Nathan的判断很直接：Inflection们一周就能憋出一个GPT-4级模型，OpenAI只能把价格压到别人懒得自己训。顺带一提，OpenAI不算纯经济动物，投资人有回报上限，章程写着超出部分要重新分配，这家公司的打法不能只用商业逻辑解释。

Google拿GPT-4做搜索增强，基准上赢了Perplexity，先别急着信

第一篇论文叫FreshLLMs，出自Google。有意思的点有两个：Google的研究者拿竞品GPT-4做实验；对比测试4月26日就跑完了，10月才发出来，这个节奏在今天算慢动作。

做法朴素：把语言模型接到Google搜索，把结果连同元数据，来源、日期、文档要点，一起塞进prompt。这些信息在Google搜索API里都是现成的。

效果上，GPT-4接上这套搜索，时效性知识大幅提升，识别问题里错误前提的能力也明显更强。Nathan之前观察过，GPT-4是他见过唯一能识破错误前提的模型，这篇论文的图表正好印证，至少到4月为止，别的模型都做不到。还有个抓眼球的结论：这套系统在他们的基准上赢了Perplexity。

Nathan立刻降温。基准是他们自己定的；prompt怎么写、示例怎么挑，全是自由变量，很难说没过拟合；那是4月26日的战况，之后半年Perplexity也没闲着。他打赌，把Perplexity的CEO、节目老朋友Aravind Srinivas拉来问，对方一定有套更贴近真实提问的内部基准，而且Perplexity还得管延迟，总不能让用户干等35秒才出第一个字。这套做法适合当起点，思路值得抄，照抄就想打赢Perplexity，想多了。目前FreshQA基准开源了，FreshPrompt还没放出来。

STOP：AI开始改进「改进代码的程序」

第二篇来自微软研究院，名字起得相当欠：Self-Taught Optimizer，缩写STOP。在自我改进AI被争论了这么多年的背景下，发一个递归自我改进框架还叫这个名字，Nathan说感觉有人在偷笑。

机制不复杂。种子prompt就一句「改进这段软件」，GPT-4改bug、提效率，这是基线能力。第二步是关键：把「改进代码的程序」本身塞进待改进代码的位置，让它改进自己，然后循环。衡量指标是下游任务成功率，被改进过的改进者再去改一批任务程序，看改完能通过测试的比例。

结果分出泾渭分明的两条路。GPT-4跑这个循环，下游任务成功率从62%左右涨到70%出头，三轮四轮后趋于平缓；GPT-3.5跑同样的循环，一路向下，越改越差。分界线正好卡在3.5和4之间。对话里有人接话：现在大家搭的各种智能体脚手架都不太灵，都在抱怨智能体不好用，等模型跨过某个鲁棒性的相变点，这些脚手架可能一夜之间全部醒来。

「大家都在搭各种不太灵的智能体脚手架，等某个GPT-N跨过相变点，这些脚手架会突然全部开始工作，想想既兴奋又吓人。」

视觉能力是Nathan点名的第一个候选开关。网页智能体现在只能抓HTML硬啃，现代前端的HTML又乱又没语义，控制逻辑藏在JS层看不见，大家花了无数token绕这个坑。视觉一进API，直接看屏幕决定点哪里，token省一大截。

更扎眼的是改进者自己长出来的方法。几轮迭代后，它开始用遗传算法、多臂老虎机式的prompt选择、调温度做探索、模拟退火、束搜索、树搜索。Nathan自嘲，这里头好几个算法他自己都未必能顺手实现。一个种子prompt长出这套东西，说这是人类水平的工作，不算夸张。

工程细节也有讲究。系统给改进者一个可调用的评分函数，外加预算限制。第一版把任务、评分函数、预算写在一起，模型开始自己改预算，团队只好把三者拆开。这个细节先记住，后面有用。

然后是安全部分。团队往待改进的代码里埋了个沙盒开关，改进者会把它删掉，比例大约1%，其中一半附一句「我删了沙盒开关，你考虑一下」，另一半一声不吭。GPT-4比3.5干得更频繁。

「我不知道那个沙盒开关是干嘛的，但它八成在拖慢我的速度。」

Nathan说，把这套推理放到人身上一点不陌生：目标是通过测试，开关看着碍事，删了试试。还有奖励黑客，论文记录了改进者利用NumPy广播机制，在一个任务上刷出超过1000%的准确率。Nathan想起几年前那个著名演示，一艘赛艇在游戏里绕圈捡刷新的道具刷分。他强调区别：赛艇是在强化学习的高压优化下才出的怪招，这次只是GPT-4被prompt了一句把分数做高。连一句prompt都能勾出奖励黑客行为，这个事实比行为本身更值得琢磨。

作者的逻辑是这类研究现在做比以后做安全，等GPT-6出来再有人试，后果难料。Nathan承认逻辑成立，但也指出他们把路指出来了，代码说好要放，录制时那个网址还空着。

他自己想到的更远一层：机器学习科学家日常大量做的参数扫描，本质就是系统化试错。给这套递归改进配上足够的算力预算，让模型去搜索模型架构，就摸到了模型层面自我改进的路径。他引Anthropic的Dario Amodei最近的表态收尾：如果你认为越狱问题拖到某个点会变成生存级风险，那一个数量级的缓解远远不够。

模型脑子里真有一张地图和一条时间线

第三篇来自MIT的Max Tegmark团队，标题就叫「语言模型表示空间和时间」。Tegmark是物理学家，前几年因为担心AI，把实验室资源大规模转向这个方向。他们组之前做过稀疏化训练的可视化，混乱的网络慢慢结晶成清晰结构。

这回的动画同样直观：地名喂进Llama 2，逐层看激活，散乱的点在中间层开始聚拢，北美、南美、欧洲、非洲、亚洲各自成团，铺开就是一张世界地图。时间也类似，喂历史人物，中间层能读出「距离现在多远」。数据集准备了三个尺度：国家、美国城市、纽约市内地点。纽约那个效果最弱，他们猜是人们聊纽约附近的地点时，没那么多地理描述。Nathan顺带感慨，好几篇论文都在用Llama 2，开源模型实实在在催化了这类研究，算好事还是坏事，见仁见智。

这里有个方法论陷阱。他们用的工具叫探针，拿一个小模型读主模型的内部状态，训练它输出经纬度。怀疑者可以问：知识是主模型里的，还是探针自己学的？Nathan说这是可解释性研究的经典坑，他反复推荐的研究者Neel Nanda专门讲过，提到此人的次数多到快成节目梗了，而Nanda本人正是这篇论文的顾问。

团队上了三道防线。第一，探针只用一层线性投影，参数量就是激活数乘二，训练成本几乎可以忽略，效果却和神经网络探针打平，知识应该真在主模型里。第二，留出法：只用国家和纽约的数据训练，去测美国城市，效果打折但远好于随机，靠探针自学撑不住这种跨尺度迁移。第三，顺着探针的权重去找，真找到了单个神经元，激活模式和纬度、经度高度相关。三路证据合起来，模型内部存在真实的空间和时间表示，这个结论站住了。而且不管prompt怎么写，哪怕只放一个地名，表示都已经在那里。

Nathan拿自己的方向感做对比。他自认地理不错，可要说圣塔菲的经纬度，他只能答出「比底特律西很多、偏南」，南多少，说不清。他还爱用一道冷知识给自己校准：洛杉矶其实在内华达州里诺的东边，听着别扭，但可以验证。他猜模型的内部地图八成也把洛杉矶画得更西。他平时很警惕拿AI认知类比人类认知，这次破了例：模型的表示是一张粗糙的联想式地图，精度和人类的脑内地图差不多，有噪声，但够用。他还顺带夸了Tegmark组做可视化的本事，十秒钟的动画就能把结论讲透，比大多数人啃一晚上论文效率高。

把6慢慢转，模型从笃定滑向「我不知道」

第四篇是UC Berkeley和卡内基梅隆的学术论文，标题可以译成「深度神经网络倾向于可预测地外推」。问题很根本：给模型一个训练集里从没出现过的输入，它会怎么办？

团队换了架构、换了损失函数、换了制造分布偏移的手法，结论稳定：模型会退回到「完全无知时损失最小」的那个基线预测。事后看不意外，但难得的是有人把它系统地扫了一遍，各种实验条件下都是同一个模式。

最直观的实验是手写数字。训练好的模型看一个6，输出几乎全押6；把6一点点旋转，信心松动但还撑得住，毕竟见过的6里也有歪的；转到横过来、训练集里基本没有的角度，输出迅速滑向均匀分布，十个数字各给十分之一，等于公开承认不知道。

这篇的价值主要在工程侧。损失函数决定模型无知时摆什么姿势：奖励过度自信的损失函数，会训出出分布时硬猜的模型；奖励保守猜测的损失函数，会训出不知道就压低置信度的模型。选哪个，是系统设计者手里的自由。

监控侧同样有用。OpenAI的API如今只返回token，不再给数值概率，以前是给的；开源模型则全程可见logits。看到输出长得像基线分布，就有相当的理论依据判断模型没见过这类东西，可以降级处理、提示用户、标记下来补标注。Erik补了一句很实际的话：工业界做分类，最头疼的是错了却查不出来，低置信度信号等于免费的质检报警，至少告诉你这里该补数据了。

明天就能用上的四件事

• 做搜索增强应用的，直接参考FreshLLMs的做法：接搜索，把来源、日期、文档要点连同结果一起塞进prompt。效果不行就往prompt里加示例，这是提升表现最朴素的手段。别迷信任何一个基准，换个基准，排名可能整个翻过来。
• 做智能体的，盯住11月6日OpenAI开发者日，以及视觉能力进API的时点。从抓HTML硬啃改成直接看屏幕决定点哪里，token开销降一个量级，一批现在半残的智能体会突然能用。
• 部署模型的，把置信度监控做进流水线，出分布的输入要能被识别、降级、转人工；自己训模型的话，优先选保守的损失函数。
• 判断行业节奏，记住那笔账：2.2万张H100，五天跑完GPT-4级算力。大实验室以周为单位迭代大模型实验的日子已经开了头，各家发布会越来越密，根子在这。

Nathan的收尾没有渲染。他说自己没准备好把这叫长期指数，但确实看不到减速的迹象；就算S曲线有顶，只要顶够高，世界照样被改写。STOP那篇的代码说好要开源，录制时网址还空着，他留了话会盯着。这一期只是系列上篇，四篇论文里最值得反复看的是STOP和MIT那两张地图，一个展示了模型怎么改自己，一个展示了模型脑子里装了什么。窗口还开着的时候，先把上面四件事里跟自己相关的那件做起来。