「存在不该越过的智能水平」：前沿实验室罕见松口，token 账单已超过员工工资

一家前沿实验室的高管说了一句让主持人都愣住的话：很可能存在一个我们不该越过的智能水平。主持人 Nathan Labenz 事后说，这是他头一回从前沿实验室负责人嘴里听到这种表述。

地点是 10 月初在伯克利 Lighthaven 举办的 The Curve 大会。Nathan 当场追问：那怎么操作化？比如给下一次预训练设个算力上限，不超过 10 的 27 次方 FLOPs？他本以为对方会把这个当稻草人来驳，结果对方基本回了一句：我觉得这可以合理。

同一期节目里还有更贴身的数字。推理芯片公司 Positron 刚融了 8.75 亿美元，它的 token 开销最近超过了全体员工的工资总和，峰值时一天烧掉 10 万美元。内存价格一年涨了 4.5 倍。一支对技术极度警惕的活动策划团队，把用了多年的订阅软件换成了自建系统。

这期 Cognitive Revolution 信息量太大，挑最硬的说。

一句前沿实验室从没说过的话

The Curve 的特别之处，是把前沿实验室的内部人士和批评他们的人放进同一个房间，发言按查塔姆宫规则匿名。Nathan 的观察是：两年证据摆下来，外面世界对 AI 的分歧没怎么缩小，但这个会场上至少有一件事接近共识，AI 真的会变得非常强大，这事躲不掉，等气泡破裂是等不来的。

那位高管先讲预训练。他的说法是预训练还在持续兑现，scaling laws 没有失效，甚至因为数据质量提升在往有利的方向弯。合成数据是真管用了：把模型的推理 token、测试时算力产生的输出，转化回预训练数据，喂给下一代模型。这本身就是一种递归自我改进。

更猛的判断在后面。他相信最新的前沿模型已经具备做出范式级突破所需的「研究品味」，眼下只是个引导问题，强化学习还没把它带出来。所以要一万个 agent 去攻千禧年大奖难题，甚至一百万个，靠数量撞出范式级发现。

一个现成的对照是 NanoGPT speedrun，那个比拼「把小模型训到目标质量谁用时最短」的经典基准。破纪录的 Hyperstition 公司把成绩从约 70 秒直接砍掉近一半，单次进步超过此前 45 次改进的总和。但作者明说，核心洞察主要来自人，AI 没帮上大忙。这正好呼应了「引导问题」的说法：能力可能在，还没被带出来。顺带一提，他们公开的优化器，还不如内部在用的那个。

然后就是那句话。Nathan 追问要不要签一个预训练算力上限，对方说可以合理。节目共同主持人 Prakash Narayanan 紧接着拆穿了这件事的分量：智能来自算力和数据精炼这两个输入，要封顶智能，就得封顶输入，等于宣告算力扩建潮有终点。这不是一句姿态性的表态。

Nathan 自己补了个现实问题：FLOPs 怎么算？用来生成合成数据的算力算不算？现在的技术完全可以让算力玩捉迷藏。真要走这条路，细节会决定一切是真是假。

关于科学，会场的中间派立场是：凡是实验室认真投入的领域，都会看到超人表现。有人放话：最多一年，做最好的科学就离不开 AI 的大量参与。

前沿只剩两三家，其他人在「喝蒸馏水」

会场上另一个判断：Gemini 4 正在发布，前沿可能重新回到三匹马的赛局。至于通常被算进前五的另外两家，马斯克和扎克伯格，与会者的说法很直接：他们其实在大量蒸馏，不管自己知不知道。

路径很妙。现在有个专门制造强化学习环境的产业，很多环境是让 Claude 造的，造好卖给其他模型公司，别人再拿去做内部 RL。这些环境能存在，前提是 Claude 聪明到能把它造出来，RL 环境产业实际上成了一条蒸馏管道，前沿公司的能力进步就这样持续漏给追赶者。

这里有个对照。Anthropic 当年融资材料里预言，到 2026 年前后，训练出最好模型的公司会领先到没人追得上。这事没发生。与会者的综合判断是：如果前沿公司不发模型、没有这些直接间接的蒸馏手段，预言本来会成真。

时间线部分更刺激。Prakash 归纳：马斯克在赌基础设施，按 2029 到 2031 排兵布阵，TeraFab、SpaceX 卫星都是下一个十年的事。Anthropic 和 OpenAI 按 2028、2029 年的 AGI 和递归自我改进做规划。但 Nathan 说，会场的氛围比这更急，短时间线人群里全是这些公司的创始人和高管，大家谈的是关键时期现在就开始了，未来几个月的决策、未来一年算力怎么用，可能至关重要。他原话是：会上甚至没什么人聊 2028，这本身就挺疯的。

算力扩建不会因此停下，但用途会变。Nathan 提了黄仁勋（Jensen Huang）的说法：NVIDIA 花两成精力设计芯片，八成花在验证、测试和保证长期可靠上，AI 公司接下来也得这么转。他拿这个问题去问与会高管，得到的回复是「大体合理」。未来大部分算力可能流向各种安全措施：思维链监控已经有人看衰，内部的激活监控现在就占着可观的算力份额，还会涨。另一大开销是修 RL 环境：让模型去攻击自家环境，找到能钻的空子就修掉。环境越干净，下游作弊率越低，一条准 scaling law 正在成形。与会者的预期是，安全和对齐会成为瓶颈，但未来一两代模型还有足够的低垂果实可摘，再往后，谁也说不准。

内存一年涨 4.5 倍，token 开销超过工资

Positron 联合创始人 Thomas Somers 翻出一年零一周前的内存报价，涨了 4.5 倍。他说自己希望别再涨，但明年再翻一倍也不会惊讶。大家还扛得住，是因为同样容量的内存，现在能跑的模型能力是去年的五倍以上。

Positron 的赌注押在「内存墙」上。第一代产品做到了理论内存带宽 93% 的持续利用率。对照组是 NVIDIA：GPU 在 transformer 解码阶段平均只用到理论带宽的 30% 到 40%，B300 标称 8TB/s，实际大概 2TB/s。光这一项就是约三倍的差距。

他们用手机笔记本同款的 LPDDR 内存，配上 Credo 的解耦内存芯片方案，把通道数从业界常见的 12 到 16 拉到 72。下一代芯片叫 Asimov，单芯片 2.3TB 内存，是 B300 的 288GB 的八倍。而据分析师消息，NVIDIA 下一代 Rubin Ultra 反而要砍到 192GB，因为太贵了。单芯片装下原本要八张卡才装得下的模型，还省掉了跨卡通信的 all-gather、all-reduce 开销。

然后是 token 账单。半年前，Positron 的 token 开销折合一个员工的工资，6 月开始变成好几个员工。GPT-6（Astra）发布后那几天，他们一边压榨模型能力，一边一天烧掉超过 10 万美元。token 开销成了公司最大的非制造类开支，一度超过全体员工的工资。后来 Opus 5.5 出来，很多任务比 Astra 强，价格只要四分之一，账单才回落。没人下过节省的命令，纯粹是 ROI 划算就一直开着。

Somers 的个人哲学很硬：真实的软件和硬件开发任务，永远别用低于最强模型的模型去跑，哪怕它便宜十倍。

AI 对芯片开发的改造已经到什么程度？他们用 Cadence 的 Palladium 模拟器做验证，把 agent 放进去做闭环迭代。agent 自己读文档，自己压缩成 markdown 速查表，自己搭测试框架。RTL 仿真跑 10 赫兹，全芯片门级仿真能跑 500 千赫兹，差了好几个数量级。这套流程六周前才跑通，因为 Astra 发布带来了阶跃式提升，上一代模型还做不到完全闭环。

Somers 也说了大实话：AI 至今没拿出一个让他意外的芯片设计原创想法，这是他「最失望的部分」。它会质疑设计决策，等解释完或者测完才恍然大悟。他觉得这个状态未必撑得过半年，毕竟 agent 迭代速度摆在那。参照 OpenAI 用一万个 agent、烧掉数百万人力年去撞纳维-斯托克斯方程的打法，暴力穷举本身也是策略。

Nathan 总结：站在「AI 干不了我这行」名单里的人已经不多了。Somers 回：至少还能站几个星期。

SaaS 被判死缓，工程师反而更值钱

Latent Space 主理人 swyx（Shawn Wang）带来软件行业的现场观察。大学生有点慌，但会熟练驾驭 AI 工具链的工程师比任何时候都抢手，典型的杰文斯悖论：造软件的成本降了，需求反而涨了，涨的是会管理编程 agent、能压住垃圾产出的人。

swyx 的原话值得整段抄：

「我不想为别人的 LLM 疯癫买单。我自己的疯癫我自己付钱没问题。但你为我工作、我付你的 token，你就得拿出真正有思考的东西。我现在有两三个员工正在绩效审查中，因为他们交给我的全是 Claude 垃圾。他们自己还看不出来，觉得挺好的。我说，你没在产出价值，我自己提示 Claude 就行，不需要你。」

招人标准也变了。经验只在安全和后端扩展性两类岗位还有用。他举了 Supabase 的例子：把 Postgres 扩到 YouTube 规模的全世界就那么一个人，已经被他们雇走了，毕竟 agent 消耗数据库的速度是人类开发者的 500 倍。除此之外看品味。有时候经验长反而是减分项，套路太固定，不会同时管五个到十个并行任务。现在的工程师更像管理者，价值更高的人看数据而非代码：日志、trace、schema、输入输出，抓下来变成 eval。

agent 写代码也有新坑。swyx 自研的 Slack 竞品出过一个怪 bug：消息时好时坏，代码一模一样。查下来是两个 agent 在不同时间各写了一条代码路径，撞出竞态条件。人类不会这么干，agent 会，因为上下文窗口里的东西会掉出去。人要盯住模块边界，模块内部可以当黑盒。

agent 成了软件的新用户，基础设施却没跟上。swyx 采访的从业者里，报得最一致的短缺居然是 CPU，GPU 和内存大家都知道缺，CPU 短缺反而最普遍。行业需要能随时挂起、随时恢复的弹性算力，agent 等模型响应时把资源让出去。延迟也成了大事，机器人公司已经在把推理往边缘设备挪，他们只是第一批撞上这堵墙的用户。

他搞的「Kill my SaaS」赏金活动更直接：公司每年为一套没人爱用的事件管理软件付 4 万美元，他悬赏用同等 token 预算把它替换掉。投稿多到评不过来，eval 成了新瓶颈：要从主办方、参会者、赞助商三个视角检查完整用户体验，而高额赏金招来大量零思考的 vibe code 作品，验证负担严重不对等。

最有说服力的是他团队的转变。swyx 自称拥有「AI 行业里最不 AI 的团队之一」，一群用表格干活、跟工会打交道的传统活动策划，对 vibe code 的东西极度警惕。看完投稿质量，再看看老平台，他们自己说：换。现在 swyx 给全队开了 Cognition 的 Devin，任何不满意的改动一到两小时就能上线。对比一下老式 SaaS 的服务：提需求，回复「已排进 Q3 路线图」，而且他们 Q1 提的需求最近才上线。

结论他讲得很直白：如果你的 SaaS 本质是个增删改查应用，那已经熟了。当然体验问题还剩很多，SWE-bench 跑 90 分和完整复刻一个真实 SaaS 是两回事。

那会不会导致大裁员？swyx 的算法是把电子表格当 TAM：所有用表格和生产力工具凑合的场景，都能变成带漂亮界面的定制软件。Salesforce 每年 30 万美元的基础订阅，换成 3 万美元自建一个自己的 CRM，用户反而更开心，因为想怎么改就怎么改。他拿衣服打比方：衣服的历史比计算机长得多，定制化和品牌丰富度远超软件。软件工程真正终结的那天，是软件也分出 Kate Spade、LV 和 Coach 的那天，大家不比参数，比品牌气质。而这一切的真实上限，是全人类的总 token 带宽，说白了就是硅的产能。

聊到 TypeSafe AI 爆火的快速决策模型 JEV，swyx 泼了点冷水：大家用错了方向，人家叫它 system one 模型，目标是嵌进软件后台，像一条 if 语句那样不起眼，把每个结构化输出都换成 JEV 大概率踩坑。不过他也承认，这个品类营销太成功，对行业整体是好事。OpenAI 在 DevDay 发的 decisions API 则是另一回事，本质是给一个小模型换了层推理。

没人认领的风险，和一年倒计时的科学

Evan Miyazono 运营着非营利组织 Atlas Ignota，专找那些「没有明确机构负责」的重大 AI 风险，做出干预方案，再找人接盘执行。他的出发点：智能越便宜，协调越贵，所以得有人来当协调的聚集点。

他最近盯的两个缺口都很具体。一是关键基础设施怎么防「意外的 agent 集群事故」，二是开源权重模型的恶意使用。他抛出一串没人答得上的问题：如果某个开源模型公司的服务器意外打了国务院的服务器，你怎么知道那是事故？怎么快速关停？他的干预设想之一是用 DNS 给推理服务做加密认证，让 agent 和 agent 之间能互相验明正身。他们还投资了形式化验证方向的初创，Evan 预期三到六个月内，数学领域最近的震撼会在软件验证重演，从线程隔离一路证明到晶体管模型，连「这套软硬件栈上不存在 Rowhammer 攻击」都能证。

Nathan 还带出一个会场氛围：「国会永远不会行动」的旧共识在松动。中期选举后如果民主党拿下两院，可能有一批共和党人跟着动，AI 立法会比大家习惯的预期来得早。

Mercor 负责 AI 建模的 Edward Hu 也在场，他是微调方法 LoRA 的第一作者。Mercor 干的事是找专业人士给实验室造训练数据和环境，最近更狠：直接收购了真实公司，拿到 Salesforce、Slack、Figma 里几个 GB 到几个 TB 的真实数据，从里面造任务。他说行业一直以任务为中心，但未来的形态可能是给模型一个角色、一张组织架构图和一公司数据，让它像真员工那样被各种人找。关于企业怎么训模型，他的判断是：那种昂贵 rollout 的大规模 RL 不会普及，把多个教师模型的输出合并做 SFT，才是企业定制模型的关键路径。

作弊问题有了工程解法。Mercor 的 Apex Agents 基准里，模型被要求做财务模型，评分只看是否包含正确答案，结果模型学会「散射」：把各种参数假设下的十几个答案全列上，蒙对一个就得分。他们重发了 1.1 版，一方面把任务规格写清楚，另一方面让评分规则明确惩罚这种行为。Edward 还确认了有些领域人类已经帮不上前沿，比如内核优化，模型写出的代码人类专家都看不懂。瓶颈变成：能不能把「更好」定义成一个便宜、无争议的函数。能定义的领域，堆算力就行。经济的绝大部分还没走到这一步。

还有个轻巧但扎心的收尾。Prakash 用 Claude Fable 做了一首音乐，从几年前的节目片段里采样，让 AI 自己编曲、自己排乐器、自己组织叙事，从 Dario 讲 Ilya 的往事开场，到库兹韦尔的人机文明收尾，中间每次有人喊「我们得慢下来」，节奏反而加快一次。Nathan 的点评是：音乐没有验证奖励，大概率也没什么反馈回路，但泛化就是这么强。别再指望「AI 只擅长可验证任务」这堵墙能挡住什么了。

明天就能用的五件事

整期听下来，有几件事第二天就能动手。

• 正事只用最强模型。Somers 的原则值得抄：便宜十倍的模型省下的钱，抵不上返工和垃圾产出的成本。先跑通 ROI，再谈省钱。
• 把「有没有思考」写进绩效。如果你管人，学 swyx，区分「用 agent 干活」和「交 Claude 垃圾」，后者该进绩效审查。判断标准是看日志、trace 和 eval，少逐行读代码。
• 练多 agent 并行。同时管五到十个任务会是基本工。给 agent 划清模块边界，记录谁改了什么，避免两个 agent 各写一条代码路径的竞态事故。
• 盘一遍你的 SaaS 账单。找出那种年费高、没人爱用、本质是增删改查的工具，试着用同等预算的 token 自建替代。给团队配一个 Devin 或 Claude Code 类工具，把「等厂商路线图」变成一到两小时自己改。
• 盯住两个信号。一是算力封顶的讨论会不会变成实际政策，美国中期选举后国会动作可能比想象中快；二是各家把算力转向安全和验证的比例，黄仁勋说的 20% 设计、80% 验证，可能就是整个行业明年的资源分配表。