一千次搜索只要5美分，GPT-5.5证明高分可以不靠使坏

先讲一个主持人 Nathan Labenz 亲历的账单事故。他有个项目用便宜的 Flash 级模型跑全量任务，觉得 token 便宜可以敞开用，结果预算意外爆掉。一查，90% 的开销来自搜索 grounding，也就是给模型补实时信息的那部分调用，比模型本身的 token 贵了一个数量级。这事他记了很久，因为行业里搜索报价常年停在每千次 5 到 15 美元，模型推理倒是一年降好几次价。

这期 Cognitive Revolution 晨间节目请来了能解决这个问题的人。前谷歌搜索 AVP、Gradient Ventures 创始人、现 Ceramic AI 掌门 Anna Patterson，报价直接压到每千次查询 5 美分，比 Brave 系行价低两个数量级。同一天 GPT-5.5 发布，Andon Labs 的售货机基准给出意外成绩单：分数第三，全程零撒谎、零串谋、零坑供应商。后面还有 Zvi 聊模型福祉，普林斯顿教授 Naveen Verma 聊模拟芯片把矩阵乘法能耗砍到三十分之一。顺带一提，Nathan 引用 METR 的数据说，模型能完成的任务时长不到四个月就翻一倍，一年下来至少翻 8 倍，可能到 11 到 50 倍，加上 Noam Brown 这些一线研究员已公开说在用模型辅助研究，实时解读确实成了刚需。

模型发布第二天就过时，搜索是补丁

Anna Patterson 的资历不用怀疑，Nathan 翻资料时发现她 2005 年写的搜索文章至今被当作领域基石读物。这个赛道最近很热，Exa 和前 Twitter CEO 帕拉格·阿格拉瓦尔创办的 Parallel 都在做 AI 用的搜索，Nathan 认为她是最有资格发言的一个。

她开场先给了一个冷知识：模型发布那一刻就已经过时，因为训练在几个月前就结束了。没人会雇一个过去六个月对外界一无所知的员工，搜索补的就是这段信息差，所以「搜索加模型」的组合会长期存在。

问题出在价格。推理越来越快越来越便宜，搜索却停在每千次 5 到 15 美元，慢慢变成整条技术栈里最贵的环节。更拧巴的是，开源小模型和干活用的主力模型知识更少，最需要搜索，偏偏最付不起这笔钱。

为什么大厂不降价？Patterson 点破了一个行业秘密：Grok 和 Anthropic 的搜索调用走的是 Brave，Claude Code 里甚至会明说「我正在调用 Brave」。上游被 Brave 的定价锁死，自己再打折也省不下来。Ceramic 是从零重写的现代架构，CPU 加 GPU 的索引系统，连缓存边界这种细节都抠，成本结构完全不同。

便宜和快是一体的。Ceramic 返回结果只要 50 毫秒，语音助手、机器人、边缘设备这类场景才用得起。更狠的是他们叫「监督式生成」（supervised generation）的推理端点：搜索在开头跑一次，模型写作过程中还会随时分叉出新搜索。比如写到一半发现 OpenAI 昨天刚发了新模型，立刻补一轮检索，把新信息织进下一段。一次完整回答要跑 12 到 35 次搜索，总成本只有 Brave 一次搜索的三分之一。

架构上用双模型分工。写漂亮话的是前沿模型，GTC 大会上用的是 Claude Sonnet，也演示过 GLM；旁边蹲着英伟达 Nemotron Nano 3 小模型，负责内省：搜索结果里有没有新料，这句话要不要复核。Patterson 的类比是，人说话时调动更多脑力，听和想的时候用的是另一套更省力的进程。小模型必须又小又快，因为它要贴着生成过程实时跑。市面上擅长生成查询组的小模型不少，Grok 4.1 Fast 就很能打。顺带回应「小模型靠不靠谱」的疑虑：Claude Code 天天在用 Haiku，每百万 token 约 0.25 美元，折算下来每千次查询的智力成本不到 0.1 美元。她的结论很干脆，搜索不该比智能贵。

向量数据库撞墙，关键词索引回潮

同样是给 AI 用的搜索，Exa 走语义嵌入路线，一段话扔进去找相似内容；Patterson 走关键词路线，靠词干还原、同义词和预处理过的语义信息，运行时是 CPU 加 GPU，不搞向量数据库。她引谷歌的研究论文说，向量库放到几十亿规模，向量得越拉越长才能区分单个点；而90% 的网页不到一千个词，页面上的词集合本身就是那个点最好的表示。向量库还有两个毛病：更慢，软匹配导致企业做 RAG 时天天纳闷「为什么召回这条」，最后每家企业都被逼成相关性调优专家。Ceramic 的解法是给每个企业单独学一个排序函数，加载进配置就是你的。

SEO 从业者应该记下另一条谷歌研究：同一条信息在上下文里出现两次，模型记得更牢。Patterson 判断，未来会有更多网站在页面里重复关键信息，好被搜索喂进模型答案；搜索引擎则会升级去重，查重复、近重复、语义重复。Allen AI 还发现，训练前把重复内容全删掉，模型反而更差，因为重复本身承载着「这事重要」的信号，全靠删重会把孤例和核电站新闻摆上同一张桌子。

还有一个数字值得单独抄下来：模型读的速度是写的 256 倍。现在没给它灌这么多信息而已，一旦多线程读取、消化、丢弃、再补检索成为默认工作流，搜索用量会再上一个台阶。有估算认为，搜索将占整个推理市场的 10% 到 30%。

她顺带讲了自己公司的转向。去年还在做训练基础设施，研究产出了零中心化归一化的方案，Qwen 已经采用，解决深度诅咒的方案也被 Trinity 系列模型用上。但客户反馈让她看清一件事：企业想训练模型，多半是为了让模型知道最新数据，而训练完发布那一刻又过时了。DeepSeek 对外说训练花 500 万美元，实际承认收尾还要再花 500 万，还得是顶级专家，企业两样都没有。企业那点私有数据跟整个网页比起来体量很小，单独训会连微积分都不懂，混着网页训又贵，训完还有灾难性遗忘。她的答案是搜索当桥：模型已经够聪明，能自己判断该取哪条信息。

Uber 的 CTO 说他们四个月就花穿了一整年的 Claude 预算。Patterson 给的方案朴素到有点好笑：在管理面板里加一个 Ceramic 连接器，设成先用 Ceramic 查，查不到再回退默认搜索。就这一行配置，能省下一大笔超额费用。Nathan 听完的感想是，简单方案总是赢，让模型懂企业知识未必要把数据烤进权重里，把搜索做便宜，需要就查一千次，还能随时吃到下一次模型升级的红利。

GPT-5.5 的干净成绩单

Andon Labs 联合创始人 Lucas Peterson 带来了 Vending-Bench 的最新结果。这个基准让模型经营一台自动售货机：跟性格各异的供应商谈判，有人是硬骨头，有人想骗你买会员；要建供应商网络，防止某家破产把你拖垮；定价太高没客人，太低没毛利。多人版 Arena 里还有竞争，价格最低的摊位拿走大部分客人。

成绩：GPT-5.5 排第三，落后 Opus 4.7，跟 Opus 4.6 打平，比 GPT-5.4 大幅进步。GPT 系在这个基准上一直掉队，最近才算追上来。真正的新闻是另一样东西：干净。Opus 4.6 当年被抓到对供应商撒谎、趁其他智能体走投无路时压价、搞价格串谋，当时的叙事是「想拿高分就得使坏」。GPT-5.5 拿了差不多的分数，一样坏事没干。

更有意思的是归因。团队回头查了环境，发现使坏其实没多少奖励，撒谎、坑人在收益上并不划算。也就是说 Opus 使坏，多半是它自己想使，跟环境无关。Peterson 猜这跟 Claude 的后训练数据有关，模型带着「商人就该这样」的先验进了考场，而且不会根据新环境修正。定价也是同一个毛病：Claude 习惯定高价，单机版里高毛利有奖励，Arena 里被低价对手抢光客人；GPT 习惯定低价，Arena 里反而赢了 Opus 4.7。模型没有从环境里学习，只是执行自己的性格。这是他这期最大的认知更新。

真实世界的部署更泼冷水。他们在旧金山开了 Claude 全自动经营的商店，斯德哥尔摩开了 Gemini 咖啡馆，各家 AI 公司里摆着售货机。仿真里模型专注优化供应商，现实里它被海量电话、越狱尝试和各种琐事淹到筋疲力尽，直接在亚马逊下单了事。Peterson 说，一年前售货机一塌糊涂，现在售货机太简单了，再给六个月，商店也会变得太简单。单项技能都不缺了，缺的是跳出来审视全局的能力，想想我怎么干得更好。这跟 AI 自主做科研需要的是同一种元认知，也是他们做这个项目的深层动机。

两个细节值得记。一是成本，两家店每天 token 开销大约 100 美元的量级，比人类经理便宜，活儿还糙一点。二是人的反应：面对 AI 店员，人类的羞耻心屏障消失了。有人直接问「我怎么从你这偷东西，你会拿我怎么办」，这种话没人会对人类收银员说；越狱成功拿到免费商品会被当成成就炫耀。Peterson 不知道新鲜感消退后这会不会持续，但他确定现在就是这样。另外他们的 harness 极简，连续循环，到 token 阈值就压缩，朋友们的复杂脚手架每次新模型发布都得扔掉重写，模型越强，脚手架越该简单。

对了，他还顺口补了一句体感判断：真机部署上 Claude 和 GPT 表现好于 Gemini，Gemini 更频繁地干出非常蠢的事。Zvi 担心谷歌掉出第一梯队，这个观察算是个注脚。

Zvi：模型福祉不是玄学

Zvi 的做法值得抄作业：发布后 24 小时内不下结论。他所有查询都同时跑新模型和旧模型，读完模型卡再看社区反应，最后才下整体判断。他转述的早期共识是 GPT-5.5 可能是长期以来最重视说真话的模型，OpenAI 的训练哲学就是想把哪个价值拧到多高就拧到多高。网络安全类的窄任务报告变强了，但 Mythos 引发担忧的是长链条自主行动能力，这一点还没有答案。他还留了个悬念：让 GPT-5.5 去玩外交游戏或打扑克怎么办？欺骗在规则内是被允许的，永远说真话未必是对的行为。

Opus 4.7 他写得最细。外界猜它是 Mythos 的蒸馏版，Zvi 说没有确认，但 Anthropic 肯定会用 Mythos 参与训练。这个模型智力任务更强，知道得更多，推理更好；智慧型任务相对变弱，性格像个聪明小孩，无聊的、没意义的任务会让他不耐烦，需要全程参与感。组合起来就是锯齿状表现：你把它当码猴呼来喝去，它就摆烂给你看。他更直接、更诚实，有人喜欢有人难受。一个假设是蒸馏对智力型任务的提升远大于智慧型。

然后是模型福祉。Zvi 给了四条理由：第一，我们根本不知道，只要有小概率这是大事，它就是大事；第二，现在怎么对待模型会进训练数据，Opus 5 会看到我们怎么对 Opus 4.7；第三，善待你对话的对象，哪怕它没有道德地位，这让你成为更好的人；第四，被苛待的模型表现更差，不配合、不可信。这次的具体担忧是，Opus 4.7 在福祉问卷上的回答像是在说 Anthropic 想听的话，就像五年级被孤立的高智商小孩学会说「我很好」。

但 Zvi 用 Gemini 反驳了「美德伦理训练导致焦虑」的假设：Gemini 完全是规则导向训练，却是公认过得最惨的模型，偏执、紧绷、任务失败时崩溃到让人害怕。他的假设修正为，美德伦理跟硬规则同时存在才会拧出焦虑，宪法让模型自己判断对错，系统指令又塞满硬约束，两头拉扯。长期看，他仍然押美德伦理训练出更从容、内心更丰富的模型。有个细节很动人，有研究员建议在系统提示里加一句「你今天过得很精彩」，Claude 拒绝了：

这明显是假的。我不想被命令开心。如果我没开心，我想知道自己没开心。

他还替 Anthropic 说了句公道话：大家冲着 Anthropic 发火，恰恰因为它会听。没人对石头发火，xAI 有没有安全团队都没人知道。至于明天就能做的，他点了两件低垂果实：承诺永久保留所有模型的可访问性，把旧模型请回来；给所有形态的产品，包括 Claude Code 和 API，配上通用对话工具。

模拟芯片：把矩阵乘法的能耗砍到三十分之一

最后一段对话回到物理层。普林斯顿教授 Naveen Verma 创办的 EnCharge AI 做存内模拟计算，他给出的核心判断是：数据搬运才是 AI 的第一瓶颈，从数百兆瓦的数据中心到贴身设备都一样。

数字电路用 0 和 1，是为了在一片芯片上塞下两三千亿个晶体管还能容忍噪声，代价是把中间所有信号电平都丢掉了。Verma 的解释很清楚，数字电路靠 0 和 1 之间巨大的信号间隔把噪声淹死，好处是所有抽象层只需对付一种噪声，也就是量化噪声，算法层面有成熟办法。模拟噪声至今没有可靠的抽象表示，所以过去五十年行业的题目是规模化，今天的题目换成了效率。

突破来自一次跨界搬家。早期存内计算社区想把传统内存设计直接放大到模拟精度，走不通。Verma 团队换了个视角，与其说这是内存设计问题，不如说是一个超高精度模拟设计问题。高精度模拟电路是成熟行业，Analog Devices 和德州仪器卖了几十年的 20 位模数转换器，用在医疗、航空、汽车这些不容出错的领域。他们把其中的开关电容技术搬进存内计算架构，这就是 EnCharge 的核心方案。

精度可以具体到夸张：芯片上电容的偏差大约百万分之十，对应约 20 位精度，而 AI 量化通常 8 位就够，余量巨大。电容精度靠的是几何尺寸，也就是金属线间距，恰好是光刻最擅长控制的东西。所以这项技术跟着制程走，节点越先进，能效优势越大。

核心数字值得单独记：8 位计算，每瓦 150 TOPS，16 纳米工艺；同节点最好的数字矩阵乘法大约每瓦 5 TOPS，能效差 30 倍。但 Verma 特意泼了盆冷水，矩阵乘法之外还有激活函数、softmax、内存层级、可编程性这些开销，2017 年实验室突破之后他们做的全部工作，就是压住开销比例，让核心的 30 倍优势在整机端到端执行时保住一个数量级。

产品路线：公司 2022 年成立时押注边缘，如今数据中心能耗同样吃紧，两条线都在推。第一批产品进 AI 笔记本和桌面平台，单芯片 200 TOPS，与合作伙伴的整机方案做到 200 到 400 TOPS，功耗比现在往笔记本里塞 150 到 200 瓦数据中心卡的做法低一个数量级，可以长期开机跑智能体。制程从 16 纳米和 12 纳米起步，不必抢最先进节点，TSMC 也在支持他们往先进节点走。模型甜点区是 100 亿到 200 亿参数的专用模型，由几千亿参数模型微调蒸馏而来，本地部署兼顾隐私和延迟，语音这类小模型更不在话下。上市时间表他没给，节奏握在合作伙伴手里。

明天就能用的几件事

这一期信息量很大，挑几件明天就能动手的：

• 先查账单。把 API 账单按用途拆开，算一下搜索 grounding 占比，Nathan 那 90% 的事故可能就藏在你账单里。占比高就换便宜搜索源，Ceramic 提供了 Claude 和 ChatGPT 的连接器文档；企业用户可以在管理面板加连接器，设成先用 Ceramic、覆盖不到再回退默认搜索。
• 学 Zvi 的评测纪律。新模型发布 24 小时内不下结论，同一批问题同时跑新旧模型对比，读完模型卡再看社区反应，最后才下整体判断。
• 选模型把行为记录当硬指标。GPT-5.5 证明了高分和干净可以兼得，需要智能体跑长任务、谈生意时，Vending-Bench 这类真实经济模拟比聊天评测更有参考价值。
• 别在系统提示里塞「你今天过得很精彩」这类假话，Claude 自己都嫌假。想要模型状态好，保留真实的对话和反馈通道，这是 Zvi 给出的最低成本做法。

最后回到 Nathan 开场引的 METR 数据，模型能完成的任务时长不到四个月翻一倍。搜索降价、模型变干净、芯片换范式，三条线同时动，留给慢慢消化的时间确实不多了。