2亿美元、1万张H100、27个人：Imbue要把AI智能体的准确率从80%磨到99%

一家连产品都还没发布的公司，融了2亿美元，投资人名单里有英伟达。这笔钱的一部分，会变成一个1万张H100的GPU集群。公司叫Imbue，前身叫Generally Intelligent，全职员工27人。

2023年12月初，Imbue联合创始人兼CTO Josh Albrecht做客Nathan Labenz主持的播客Cognitive Revolution。他在节目里算了一笔很简单的账：一个AI智能体如果每步动作的准确率是80%，连续执行10步，整体成功率只剩10%左右。0.8的10次方，约等于0.107。想让它替人干一整晚的活，这点可靠性远远不够。

「如果你真想让它执行更长的动作序列，准确率得提到90、99，甚至99.9。」Josh判断，未来一两年，模型在长程任务上的表现会有明显跃升。到那时，AI才算真正开始按人的期待干活。

主持人Nathan在开场白里给了这轮融资一个投资视角的注解：AI下一步有两条路。一条是继续堆算力，OpenAI、DeepMind、Anthropic这些巨头接着领跑；另一条是预训练的边际收益变得不划算，靠精细的微调、更好的检索、监督和新交互界面，把智能体做到可靠、可控。Imbue押的是后一条路，而这条路往往需要一连串灵感时刻，历史上这类突破常出自小而齐心的团队。

研究公司，一个故意含糊的定位

Josh的背景有点老派。读硕士那会儿深度学习还没火，圈子里流行的是支持向量机。他一直旁观这个领域，到2019年前后，自监督学习在视觉、语音、文本上接连跑通，他判断时机到了：机器学习终于可以摆脱那种靠大批人力标注、把正确答案喂进去的老路，转向系统自己从数据里学规律。于是他和Kanjun Qiu一起创办了Imbue。

他们从第一天起就坚持叫自己「研究公司」，刻意避开「研究实验室」和「创业公司」两个标签。Josh的解释很直白：让智能体真正会推理，这是开放的研究问题；产品该长什么样，同样是开放问题。如果一个智能体要替人连续工作好几天、花掉几百上千美元，用户肯定想知道它到底在干什么，而一个聊天框装不下这种透明度。交互界面怎么设计、怎么防止它跑偏、怎么让它不烦人，这些问题和研究问题缠在一起，拆不开。

所以他们的策略是先给自己造工具，自己用，体验痛点。Josh形容当下用大模型API搭系统的日常：改提示词、拼组件，时灵时不灵，改一下好像好点了，跑一轮评估又贵又慢。「用这些东西搭大系统，基本就是一种折磨。」

GPT-4的推理能力，是被「喂」出来的

聊到推理，Nathan抛出直球问题：GPT-4为什么这么强？Josh承认摸不透OpenAI的全部底牌，但给出了几个相当具体的判断。

第一，数据质量依然是命门，垃圾进垃圾出这条老规律没变。他推测OpenAI有专门团队清洗Common Crawl这类公开网页数据，再配上书籍、代码等高质量语料。

第二，OpenAI很可能养着一支规模庞大的标注团队，专门生产代码领域的双人对话：一个人问怎么用NumPy求矩阵逆，另一个人写出漂亮的回答，这种数据产量极大。模型面对「分布内」的问题时表现惊人，部分原因就在这里。

第三，GPT-4回答问题总爱先铺开一步步推理。Josh点破：这种链式思考的风格已经被烘进训练数据，一部分是RLHF的自然副作用，一部分大概是有意引导，让模型沿着更容易答对的轨迹走。

学术圈这边还有思维树、思维图、多次采样看答案一致性等各种玩法。Josh最感兴趣的一类，是在推理阶段花更多算力，用更长的计算换更高的准确率。这里有个关键区分：聊天场景下，用户不可能干坐着等模型多算20秒换来10%的提升；但如果智能体是替人通宵工作，耗时根本无所谓，推理期算力就成了可以随便花的预算。Nathan说这让他想起Noam Brown的Cicero，那个把外交桌游打到人类水平的AI，核心洞察之一就是运行时算力能换来质的提升。

模型学到的是世界，还是语言的巧合？

这期节目最有嚼头的部分，是Josh和Nathan关于世界模型的分歧。Ilya Sutskever有个著名说法：训练语言模型预测下一个词，它学到的其实是产生这个token的整个世界的表征。Josh不同意这么乐观的表述。

「它确实学到了一种表征。但表征有很多种，有的好，有的差。大多数transformer学到的表征，和现实并不对应。」

他的证据很扎实。Anthropic的Chris Olah团队2023年发表了关于单语义性的论文，用稀疏自编码器把模型内部特征拆开给人看。那些特征长什么样？「这串字符像不像base64」「这段文字是不是希伯来语」「数学语境里的the、物理语境里的the、社科语境里的the」。全是语言统计共现的碎片。

Josh举了个例子：在Python里把print和length互相赋值，让length当打印函数、print当求长度用。人看一眼就知道这很怪，但能跟上思路。语言模型会彻底崩掉，因为它从没见过print出现在求长度的位置上。transformer学到的是词的共现规律，我们关心的任务恰好大多能用这些规律解出来，仅此而已。

加法是更干净的例子。transformer学加法，学到顶也就是模加法，在一个古怪的三角函数空间里绕一圈再算，无法像人一样泛化到任意长度的加法，这一点可以被证明。但Imbue的朋友、研究者Hattie Zhou最近有篇论文：只要在输入里加一种前缀标记，改变信息的结构，transformer就能学到真正的进位加法算法，而且能泛化。表征好不好，很大程度取决于怎么组织喂给它的数据。

多模态在Josh眼里扮演的正是前缀标记的角色。看一张猫的图片，再读一堆关于猫的故事，模型被迫收敛出更接近现实的表征。他最看好的是视频，尤其是带因果交互的第一人称视频配上好的文字描述：要同时预测长视频里发生了什么、还要和文本对得上，数据对表征的约束会强到模型不得不学出更通用的东西。不过他提醒，这是条更长的路，一年之内未必看得到。

推理和知识能不能分开？Imbue内部做过一个玩具实验，用所谓「爱因斯坦谜题」测模型：Billy、Sally、Jenny各有一样东西，颜色是红蓝绿，给一堆线索，推理谁拿着红色的。结果小得离谱的transformer都能做得很好，问它别的全废。Josh倾向于把推理理解成一组启发式和技能，是变换信息的方法；没有信息可变换，推理也就无从谈起。至于真正新颖的「灵光一现」时刻，他觉得那不会是某个离散的突变，模型在蛋白质结构里找到的那些人类缺乏直觉的模式，已经算得上有趣的雏形了。

Imbue自己还发过一篇更硬核的论文，研究自监督图像学习的「台阶现象」。起因是实习生发现损失曲线带着奇怪的缺口。他们把CIFAR-10上的自监督学习简化到能解析求解的程度，理论和实验对上了：特征是一个接一个突然上线的，先学会用颜色区分图片，再是对比度、亮度，全是些「笨」特征。背后的框架是核学习与特征学习之分：支持向量机这类经典方法的相似度度量是固定的，深度学习的度量会随训练演化，这正是它更强的原因；无限宽网络近似（神经正切核）恰好丢掉了这个演化，所以永远差一截。同事Jamie还证明了一个漂亮的守恒量：模型的学习能力像物理里的动量，总量有限，得按重要性分配给各个特征方向。

强化学习开不了门，写代码才是内环

Imbue的研究轨迹能解释他们为什么押注代码智能体。一年半前，他们做了一个程序化生成的虚拟世界给强化学习智能体练手，为了压成本，把环境速度做到了Minecraft的100倍左右，工作发在NeurIPS上。

结果很有戏剧性。智能体确实学会了开门，哪怕门上有复杂的锁和横杆。但过程是贴着门又蹦又蹭，瞎撞到偶尔成功，之后慢慢磨出更高效的开门策略。那和人完全是两码事：人转把手、拉开门，是因为理解了机构的运作原理。

Josh由此把话题拉回人身上：人掌握绝大多数任务靠的并非强化学习，你不会为了拿博士学位把读博重试一万遍。人靠的是规划、预判和逻辑推理。所以Imbue把重心转向写代码、推理、浏览器和桌面操作这类有规划成分的任务。强化学习没被扔掉，它适合搞定「该点哪个按钮」这类底层动作，和规划是互补的两层。

代码的位置之所以特殊，还有另一层原因。Jim Fan团队的两篇论文给了Josh很大启发：Eureka用GPT-4写奖励函数，教会机器手转笔；Voyager让智能体在Minecraft里把技能写成代码存进技能库。共同点是，写代码本身就能让智能体变强。他的判断更进一步：未来大部分新代码会出现在智能体的内环里，帮它们优化自己的提示词、挑选few-shot示例、从经验里自动抽取规律。

真实任务的复杂性，Josh用Stripe打比方：不就是网上收个钱吗，怎么需要那么多人？因为细节多到吓人，所有真实任务都这样。今天的自动驾驶系统之所以僵化，是因为任务拆解全靠人提前做完，写死了。未来的智能体要能自己拆解，而且是动态的：发现某个环节的语言模型在干蠢事，比如明明在做加法，直接换成调用Wolfram Alpha或计算器，速度立刻上来。系统会持续自我优化，这是人工拆解的自动驾驶系统做不到的。

至于那笔2亿美元背后的demo，Josh透露了大概：他们针对若干学术数据集做了一套自动拆解问题的流程。以Meta的ANLI数据集（对抗性自然语言推理）为例，里面有大量专门坑模型的问题。比如文本说某首歌由X和Y共同创作，问它是不是只由X创作，模型顺着「just」就答了是。把问题拆成「这首歌的作者都有谁」再回答，答案变得显而易见。整套拆解流程其实不复杂，效果却好得惊人。后来学界发表的思维树等工作和他们的做法高度相似，这让Josh确信这条路是通用的。当时demo混合了自研模型、开源模型和GPT-4、Claude，哪块用哪个，看速度和效果，GPT-4并非处处更优。

不追最大模型的算力账

1万张H100怎么用？Nathan在节目里现场算了一笔「复现GPT-4要多久」的账：假设GPT-4训练总计算量是10的25次方FLOPs，按FP8精度下一张H100约4乘10的15次方FLOPs算，1万张卡理论上三五天就能凑够。Josh纠正了他的假设，FP8训大模型还跑不动，然后给出自己的估计：GPT-4大概用了3万张A100，训了三到五个月，是个8专家、每个约2000亿参数的混合专家模型。

但Imbue的策略并非把集群当成对准单一目标的巨型激光器。Josh引用MosaicML的测算：300亿参数的模型吃6000亿token到Chinchilla最优要一个月；换算到4000张H100的集群，2000亿参数的模型大约45天能训完。他盯上的是GPT-4技术报告里的困惑度曲线：用百分之一的计算量，性能只损失一点点。

「如果要在一次训练上花10亿美元，我宁愿只花1000万，然后把性能在别的地方补回来。哪怕只提升三五个百分点，差别都是巨大的。」

他的底气来自实践：微调过的Llama在不少任务上表现超过GPT-4，而且小模型需要的数据也少得多。顺带他给想训大模型的人提了个醒：FP8目前只适合小模型，模型越大越容易发散，精度误差会咬人，几百万美元的实验别轻易上。

集群本身也有讲究。他们和新的算力供应商Voltage Park合作，卡是对方买的，Imbue按较短周期使用，芯片的完整寿命归Voltage Park。好处是Imbue不用把2亿美元全砸进硬件。

支撑这套打法的另一个武器是CARBS，Imbue自研的成本感知超参数优化器，全称Cost-Aware Robust Bayesian Search。它把贝叶斯优化和自然进化策略粘在一起，让程序自己决定下一组该试什么参数。人面对10到12个超参数的高维空间根本无从下手，CARBS还能自动避开显存溢出的崩溃区域。现在的用法是：按下启动键，睡一觉，醒来看到一整条曲线，各参数如何影响scaling一目了然。Josh说这东西早就赚回本了。

27个人的公司，怎么同时开这么多条线

虚拟环境、代码智能体、超参数优化器、可解释性研究、政策参与，全是一家27人公司同时在做的事，周二刚入职一位招聘官，官网上的26张脸变成了27张。听起来散，Josh的答案是这一切都拧在一起。

他们每个季度全公司坐下来，一起往一个Google文档里打字：上季度干成了什么、搞砸了什么、在担心什么、兴奋什么，然后收敛出少数几件事。CARBS是加速所有实验的基础设施；NTIA分析则是本季度目标「造自己真正会用的工具」的一次实战。那个项目用语言模型逐条分析了美国商务部NTIA征集的数千条AI监管意见，再抽一小部分让人工读，对比两边答案，检查模型有没有系统性偏差。结论：只要问题设计得当、加上人工校验，语言模型可以胜任大规模文本分析。顺带发现了意见里的高频主题：艺术家最关心版权侵权和经济冲击，其次是价值观、隐私和虚假信息。

安全上，Josh的态度是务实的工程派。他觉得英国AI安全峰会和拜登的行政令比预想中克制，重点放在测量、调查和网络安全、生物风险这类具体问题上，方向是对的：该做的是把细节工作做好，而非推倒重来搞一个大而全的新机构。联合创始人Kanjun Qiu代表公司去了峰会。至于长尾风险，包括中国在内的国际协作意愿让他感到鼓舞，用他的话说，「没人想灭绝」。

团队会扩张，但刻意慢：每年翻一倍，目标是两三百人的高杠杆公司，一个招聘协调员背后站着一群智能体。Josh预计，这轮融资之后，公司花在算力上的钱会超过花在人身上的钱，而且差距会越拉越大。

明天就能用的三件事

这期节目信息量很大，挑三条马上能用的：

• 把长任务拆开算成功率。用大模型搭自动化流程前，先数清楚链条有多少步，用0.8的n次方估一下整体成功率。你会立刻看清，预算该花在提升单步可靠性上，还是砍掉步数上。
• 模型答错时，先改问题的结构再换模型。把问题拆成几个子问题分别问，再拼回最终答案，ANLI里「作者都有谁」那个例子就是模板。拆解方式往往比换更强的模型更管用。
• 给不赶时间的任务开推理期算力。能通宵跑的活，就让它多采样几次、多验证几轮，用时间换准确率。聊天窗口里等不起的优化，批处理场景下全是免费的。

Josh在节目末尾留了一个判断：未来一两年，我们会看到智能体真正开始像人期待的那样完成长任务，那会是个「有趣的、怪异的世界」。1万张H100已经在路上，验证这一天不用等太久。