# 2018年发明提示词被拒稿，如今他的AI搜索准确率超过了谷歌

> Cognitive Revolution No. 109 中文精读

- 原标题：Amazing Answers: Richard Socher on how You.com is Reimagining Search with AI
- 发布日期：2024-02-29
- 主持：Nathan Labenz
- 网页版：https://cogrev.1mmt.com/ep/109-amazing-answers-richard-socher-on-how-you-com-is-reimagining-twFSPg.html
- 精读字数：约 5692 字（阅读约 13 分钟）

> 本文为 cogrev.1mmt.com 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。

2024年2月底的Cognitive Revolution播客，请来了Richard Socher。主持人Nathan Labenz给他的头衔很长：深度学习NLP先驱、Salesforce前首席科学家、You.com创始人兼CEO。但真正有意思的，是散落在他履历里的几个事实。

2018年，他在Salesforce带队做了个激进项目：放弃一个任务一个模型的老路，做统一模型，想让它做情感分析就问“这句话的情感是什么”，想让它做摘要就问“这段话的摘要是什么”。论文投出去被拒了，他自称那是“最后一次也是最重的一次拒稿”。后来OpenAI在GPT-2和GPT-3的论文里引用了这项工作，引用逻辑是：给模型提一个问题，它就能切换任务。**这个动作后来有了名字，叫提示词工程，今天整个行业都建立在它上面。**

他现在的公司You.com，拿500条真实用户查询和Perplexity做盲测，50%的情况下用户更喜欢You.com的答案，30%认为两者没差别。支撑这个结果的，是一个从零自建的网页索引，基准测试里API准确率超过了谷歌和必应。

这期节目从被拒稿史一路聊到灭世概率该不该是零，下面挑最值钱的部分讲。

## 被拒稿十年，然后OpenAI引用了他

Socher 2003年在德国开始学语言计算机科学，当时NLP还是计算机系里的小众方向。他觉得这个领域数学太少，读硕士时转向计算机视觉，在马普所接触到统计学习和模式识别。到斯坦福读博士，他看清了当时NLP的真实样貌：顶会论文里模型很漂亮，真正干活的部分是特征工程，做实体识别就加一条“这个词首字母大写”的规则。他管这叫“研究生爬坡”，涨点靠人肉堆特征。

2010年他发表了第一篇把神经网络用于NLP的论文，之后拒稿不断。他认定的理由很简单：数据进去，答案出来，中间不该隔着一堆手工特征。博士毕业后他留在斯坦福教书，学生里就有后来创办Hugging Face的那批人，他投了他们的第一轮。第一家创业公司MetaMind做通用神经网络平台，被Salesforce收购，他做到首席科学家。

回头看，这条线的每个节点当时都被主流拒收，最后全变成了行业默认设置。**被拒掉的那条技术路线，十年后成了整个行业的地基。**

## 用户拒绝创新，直到ChatGPT出现

You.com最扎眼的教训在产品节奏上。2022年初，它就把大语言模型接进了搜索结果，搜索页里能直接写代码、写文章。结果每次把默认体验改得离Google远一点，大多数用户就留言：我习惯了Google，不想换一种找答案的方式。团队被反复拉回老路。

ChatGPT上线后，同样的事情突然全通了。Socher说这是他最大的意外：**产品能力早就摆在那，缺的是用户心智，一个纯文本框直接给答案，所有人一夜之间就懂了。**拿到链接和拿到答案是两回事，答案本身就是答案。

竞争格局的变化同样快。2023年初，You.com还是唯一一家带联网大模型、又有百万级用户的搜索引擎，一年后这个思路被复制了无数遍。Nathan在节目里给了一个自发推荐：他现在每周用好几次You.com，想要多页、报告式的答案时，研究模式经常是他手上最好的工具。

产品分层借了丹尼尔·卡尼曼快思考慢思考的框架，Socher用助理来类比：

- 智能模式是默认档，像让助理花两三分钟快速查一件事，返回带引用的事实性答案，引用的文章可能就是昨天刚发的。右上角保留传统链接，想点开网页随时可以。
- 天才模式处理需要编程、联网、数学的复杂问题，像让助理花几个小时，响应常要5到10秒。系统会编排多个模型，写Python，执行代码，画出图。演示里它查了美国当前人口，按给定增长率回推并画出百年人口曲线。库加载失败时，它会自己换一种更笨但能跑的写法重试。
- 研究模式是愿意让助理花一两天。它做多轮网络搜索，边搜边发现新线索再补搜，最后合成一篇带引用的长报告。

Nathan拿一个200词的混合专家架构问题去测研究模式：专家数量怎么定、每层激活几个、有没有对应的缩放律，一次全抛过去，结果好到他反复回访。他还用天才模式做过费米估算：世界上有哪些大数据集，各有多大，和GPT-4的训练数据比如何，和现有算力比又如何。Socher自己的演示是伯罗奔尼撒战争的背景与后果，产出的文章每句话挂一到两个引用，逐条可点开验证。他引用那句老话形容这类能力：未来已经到来，只是分布不均。

一个容易被忽略的细节是引用准确性。Socher说他们发现有些竞争对手会往句子里随机塞引用编号，点开一看，那篇文章根本没提那个事实。**假引用对AI搜索这个品类是釜底抽薪，信任一旦塌了，整个产品逻辑就塌了。**

## 自建索引，为LLM重新设计搜索

全期最硬核的部分在这里。谷歌的索引拿不到，要么签特殊协议，要么像一些人那样盗用SERP接口，待在法律灰区。You.com选了最重的路：自己建索引。

关键差异在设计目标。谷歌和必应的索引是给人看十条蓝链用的，每个网址只存很短的摘要。You.com的索引为模型设计，每个网址返回长得多的内容，模型读完再抽取答案。评测方法是拿HotpotQA、SQuAD、MS MARCO、FreshQA这些问答数据集，扔掉原文段落，让搜索引擎去全网把正确答案找回来。结果**You.com的API准确率超过了谷歌和必应**，靠的就是给模型喂更长的原文。

Socher借Andrej Karpathy的说法，把这套东西叫LLMOS，大语言模型操作系统：模型是CPU，RAG和向量数据库是硬盘，互联网是网卡，被编排的其他模型是GPU，Python代码解释器是应用。

他强调这类产品看着像套壳，实际有大约十个非做不可的子系统。查询改写是其中一个：用户先问“最大的CRM公司是哪家”，答案里出现Salesforce，再问“他们股价多少”，不能把“他们”两个字发给搜索后端。要不要搜索是另一个：让模型写一首湾区日落的情诗，每句都挂引用只会污染提示词。选哪个模型、按查询动态改提示词，又是两层。这些子系统每天要为百万级用户跑数百万次。

推理能力的未来，Socher押在写代码和执行代码上。他承认这里有个讽刺：让语言模型直接算大数乘法，它会在内部假装做完几十亿次运算，然后给出错误答案；同一个模型学会写段Python跑一下，结果全对。**这算不算真正的智能，争论很大，但它是全新的一种推理方式，不必长得像人类。**具身智能也一样，盲人和聋人照样可以聪明，缺某种感官不构成智能的必要条件。当然，放开代码执行立刻有安全问题，有人会让它挖矿，机器就没了，还会尝试往上翻几层找密码文件，安全隔离得先做好。

关于智能体，Socher的判断是行动能力显然在路线图上，最惊人的答案做到极致，就是不再告诉你怎么做，直接替你做完。但他泼了盆冷水，用订机票举例：系统订了你要的时间，却没选那个多等半小时、多一段腿程能省50美元的选项，用户会觉得它蠢。Expedia花几十年打磨的界面，让人一眼看全所有权衡；一个跟了几个月的真助理，知道价格敏感度、什么时候愿意坐红眼航班，最后还会递上三个选项让人挑。这中间隔着一道恐怖谷，纯文本很难跨过去。涌现能力倒是真让人惊叹，耳机推荐那个例子，没人专门编程教它做表格，它自己把表格、图片、优缺点、价格全拼好了。

## 订阅、广告、浏览器和一个AI捆绑包

商业模式这段有几个实在的数字。You.com订阅10美元一个月，Nathan说这是他见过的最低档之一。Socher当场预告要涨价：愿意付费的人不在乎10块还是20块，想用GPT-4的人等于半价用ChatGPT Plus的同款模型，要来趁早。

广告的问题他答得很直：**免费靠风投的钱撑不久，不想付费就得看广告，聊天引擎大概率也逃不开广告。**搜索API长期是个双头垄断，谷歌垄断消费端搜索，微软垄断搜索API，后者一度把价格提到原来的5到20倍，小公司只能硬扛。

分发上有个新变量。Safari的设置里根本没法把第三方设为默认搜索引擎，所以You.com干脆为iOS和安卓做了整个浏览器。2024年3月iOS 17.4在欧盟上线浏览器选择弹窗，You.com会是选项之一，而且是名单里唯一的聊天式浏览器。节目播出前后，Hugging Face的CTO Julien Chaumond也刚宣布成为他们的天使投资人。

Nathan抛出一个他叫“AI捆绑包”的设想：他愿意一个月花100美元，换一千个AI工具的分摊使用权，因为单个工具的免费加订阅模式太难做，留存差，用户用一次就买完退订。Socher的回应很客气，“听起来是个好主意”。Nathan自嘲：行，那要么我去做，要么想做的人给我发私信。

对搜索格局，Socher的判断是快餐业模型：**未来不会只剩一个谷歌，会像汉堡市场一样，麦当劳、汉堡王、肯德基、塔可钟各占一角。**分食早就开始了，亚马逊抢走了50到100美元以下的购物搜索，用户直接去能下单的地方；TikTok抢走了年轻人查餐厅的搜索，他们想看的是别人的探店视频。而聊天在扩大搜索的总盘子，没人会让谷歌写一篇伯罗奔尼撒战争的报告，或者做带两个利率变量的抵押贷款计算。谷歌的保守也有经济解释：一门每天赚5亿美元的生意，没人想被颠覆，所以transformer的作者们陆续离开了。

## P(doom)是0，还是5%到95%

这期最有张力的部分是安全分歧。Nathan自称激进不确定性派，别人问灭世概率，他给5%到95%这个区间。他的论证借用Geoffrey Hinton的说法：人类主宰地球，靠的是比其他物种更会规划、推理、用工具，现在AI这三样都会了，提升速度还更陡。他还提了一个积分式反驳：单个科幻场景概率趋近于零，但场景空间极大，函数趋零不代表积分趋零。

Socher的回应分三层。第一层，P(doom)应该是个后验概率，现有数据不支持灭世叙事。他提出区分超人类能力和超人性：AI翻译100种语言早已超人类，预测蛋白质的氨基酸、天气预报也是，但预测下一个token这个目标函数里，推不出“消灭人类，让所有序列都变成字母A”这种操作。他去年和灭世论者在德国报纸上做过一轮对谈，读完对方的场景推演，结论是全都不成立，要么是灰色黏土这类科幻道具，要么是现有科学根本做不出来的完美病毒。第二层是个冷峻的商业观察：

> 一家公司花几十亿美元，造出一个有意识、能自己设定目标的系统，然后你对它说，好了，帮我们赚钱吧。它说，不，我想去看日落。没有人会为这样的AI付钱。

没有研究进展，就没法预测它何时出现。第三层，他同意Yoshua Bengio对三类威胁的排序，故意滥用、意外滥用、失控，其中故意滥用是真实且当下的。深度伪造的参照系是Photoshop，从那天起照片就不该全信，现在轮到视频和声音。各国答案会不同，德国否认大屠杀违法，美国不违法。

他退了一小步，说严格讲概率趋近但不到零，量级是10的负很多次方，毕竟未来50亿年什么都可能发生，比如三体里的外星文明带着AI先到。但资源分配的结论不变：**把几十亿美元和公众注意力投给灭世叙事，挤占的是真实风险和真实机会。**他拿历史做参照，Pessimist Archive这个账号收集了当年对小说、报纸、互联网甚至WiFi的恐慌；ARPANET时代的TCP/IP专家没一个预见到境外势力会干预选举，等威胁真实显形再设计对策，比在真空管时代给未来计算机写防御手册有用得多。

真实的机会他正在写一本书，主题是AI for science。节目里举的例子很科幻但真实：有团队在碳纳米管一侧装铁分子，另一侧装只结合脑癌细胞的蛋白，注入患癌小鼠大脑，蛋白找到肿瘤细胞，外加磁场让铁分子旋转，对每个癌细胞做纳米手术。他同时承认监管有合理边界，美国不久前禁止了让病毒更致命的功能增强研究；而有了湿实验能力的团队，本来就能像诺贝尔化学奖得主Frances Arnold那样用定向进化迭代蛋白，开源模型算不上造病毒的决定性门槛。

AGI的定义之争也收在这一段。Socher说AGI的含义被营销挪用了，老定义是超级智能加自我意识加自设目标，现在流行的定义务实得多：80%的工作可以被自动化到80%。他基本接受后者，但加了一个关键限定，只算数字化工作。**水管工、屋顶工、贴砖工、保姆，没人给他们采集训练数据，这些工作短期不会被自动化。**放射科能自动化头CT里八成的问题，剩下两成是长尾，一个医生一辈子可能都没见过那个病例。

自动驾驶的账他算得很诚实：AI开2000万英里死1万人，人类同样里程死5倍，纯功利看该部署，但死的是自己女儿的人不会看统计，会起诉。好处是每次事故AI都能学到东西，而人类司机边开车边看手机，法律早就禁了也禁不干净。对就业冲击，他的量级判断是：这次生产力阶跃比农业转向耕种、蒸汽机、电力、互联网都大，工作版图会被大规模改写，最终人均产出和财富都会上涨，新工作会出现，但不会一夜发生，还有公司没上云，美国和德国都有地方连完整的网络都没有。

## 明天就能用的几件事

这期节目听完，能直接搬走的东西不少：

- 把复杂问题按等待成本分拣：要快的事实用智能模式，要算要画图的交给天才模式，要报告的去研究模式。多步问题一次全抛过去，别拆成十轮对话。
- 验证AI搜索的引用。点开引用，看原文里是否真有那个事实，这一步能筛掉一批不认真的产品。
- 对照片、视频、语音保持Photoshop级别的怀疑，这条从今天起就该是默认设置。
- 评估一份工作的自动化风险，先问有没有大规模的数字化训练数据。在浏览器和电脑里完成、模式重复的工作风险高，需要动手和上门的工作暂时安全。
- 想用半价GPT-4的，趁订阅还没涨。

Socher把You.com的定位压成两个词，amazing answers，惊人的答案。他赌的是年轻一代不会退回十条蓝链，Nathan用一周数次的实际使用投了赞成票。闪电轮里他补了一句方向感：检索、记忆、在线学习，You.com现在的个性化记忆是透明的，会记住用户说过的偏好，也能一键关掉，他期待的是系统能根据点赞点踩和对话里的纠正，有原则地更新未来的答案。这场重做搜索的仗最后打成快餐业还是赢家通吃，2024年还没有答案，但索引、引用、编排这些脏活，已经把门槛从“有个好想法”抬到了“有十个子系统”。