10个人、1500万美元,Perplexity想撬动年入2820亿美元的谷歌
E7: In Search of Truth with Aravind Srinivas of Perplexity AI
Perplexity AI 创始人 Aravind Srinivas 谈如何挑战科技巨头、产品哲学,以及最大化单位时间用户价值。
2022年,谷歌营收2820亿美元,利润接近600亿美元,相当于每周净赚超过10亿美元,搜索市场份额常年维持在90%上下。微软投入百亿美元级资源做出来的新Bing,也只啃下了很小一角。
就在这个市场里,一家叫Perplexity AI的公司上线了:融资1500万美元,团队10个人上下。你问一个问题,它给你一个三句话的摘要,每句话后面挂着可以点开核实的引用链接。
3月14日播出的Cognitive Revolution,主持人Nathan Labenz请来的正是Perplexity创始人兼CEO阿拉温德·斯里尼瓦(Aravind Srinivas)。Nathan是AI投资人和创业者,也是Perplexity的重度用户,开播前就在推特上公开安利过。他对这期的总结是:来之前佩服这个产品,聊完之后同样佩服这个人。
写论文的第一课,成了产品的地基
斯里尼瓦是研究出身,博士期间的核心工作叫决策Transformer(Decision Transformer),一句话概括:把几十年积累的强化学习算法塞进一个Transformer的权重里,只告诉它最大化奖励。后来他在OpenAI做过一年研究员。他说学术生涯给自己烙下最深的一条规矩,来自写第一篇论文的时候:论文里任何一句话都必须有出处,要么引用别人的论文,要么来自你自己的实验,否则就只是观点,够不上事实。
ChatGPT发布后大约一周到十天,Perplexity就推出了第一版产品Perplexity Ask。做法很直接:把谷歌搜索结果和GPT-3.5拼在一起,取排名靠前的几条链接,让模型只基于链接内容生成简短摘要,并逐句标注引用。用户可以偷懒直接读答案,也可以较真点开原文核对。
当时全世界都在喊“聊天是新的界面”,用户也一直催他们做成聊天机器人,团队顶住了。他们的第一性原理分析是:人只会想跟搜索引擎追问。于是先上线“相关问题”,发现点击很多,再做了真正的追问功能。所以Perplexity支持多轮对话,界面上却完全没有左右气泡的聊天窗口。按他的说法,这是一个知识和信息服务,娱乐和闲聊请去找ChatGPT。
这套哲学有个口号式的表达:IQ速度,也就是单位时间给你带来的智商增量。2010年代的软件产品都在最大化停留时长,把注意力变现,Perplexity把逻辑反了过来,最大化单位时间交付给用户的价值。最直白的表述是:你来问怎么补报2022年的税,我给你答案,你拿到就走,我们不希望你停留半小时。
公司的使命表述是“成为世界上最以知识和真相为中心的公司”,致敬贝索斯那句“亚马逊要做全球最以客户为中心的公司”。斯里尼瓦说,亚马逊至今在每次客服对话结束后都会追问一句:我们还能做什么变得更以客户为中心。他要的是同一种偏执:以后任何人想做可信的问答产品,都该拿Perplexity当参照物。
用户第一,其他都是二手问题
聊到要不要自研大模型,他的回答很务实:普通用户根本不在乎你跑的是GPT-3.5、GPT-4还是自家模型,只在乎答案又快又好。在乎这件事的是两拨人,投资人要给“技术护城河”打勾,求职者担心公司没有自研能力就会像Jasper一样被商品化。
自研模型的真正理由只有一个:把单次查询成本打下来。谷歌每天处理几十亿次查询,如果每次都过大模型,一年要烧掉几十亿美元,所以这个形态谷歌做不了。Perplexity量小可以先跑,等流量上来再靠自研和优化推理栈降成本。他透露已经有一部分查询悄悄跑在自家模型上,只是没声张。
他特别提醒了一种死法:有些大模型公司融资几千万美元,承诺把八成砸在云上训练自己的模型,等好不容易追平GPT-3,OpenAI已经发布了下一代模型和新的定价方案。产品没影,钱花完了。差异化应该来自产品、体验和可靠性,以及搜索加LLM这个组合里OpenAI不会去解的那些工程问题。他补了一句关键判断:一个很强的LLM可以弥补很差的排序,但一个再好的LLM也需要过得去的排序,索引和排序这些老搜索的功夫短期内不会失效。
成本观同样来自贝索斯。有人问亚马逊天天低价两日达,怎么盈利?贝索斯回答:盈利是我们和投资人的事,客户只关心又快又便宜拿到货。斯里尼瓦的推论是:永远别为了省钱给用户端上一个更差的模型,那等于亲手毁掉体验,然后没人再用你的产品。
注册这件事上他更激进。Perplexity网页版很长时间连注册入口都没有。理由很简单:对手是谷歌,人家打开就是搜索框直接打字,你凭什么让人先注册?他提到一条被Instagram联合创始人Mike Krieger点赞的推文,总结了挡住ChatGPT取代谷歌的两件事:名字难记,强制注册。没有这两条,百万注册用户远不止这个数。他的原话很扎心:新创业公司还没挣到让用户注册的资格,你靠给出最好的答案挣信任,之后人家才敢把Google Drive和聊天记录交给你。账号体系以后会做,因为协作和个性化需要它,但必须给足理由,而且一旦碰用户的个人数据,责任完全不同,他明确说不想学Facebook那套增长黑客。
反馈收集是同一个思路的延伸。他给了一个数字:大约只有10%的用户会主动给反馈,点赞点踩本身信号很弱,有时摘要很好用户就是不爽。真正有信号的是编辑引用源,用户删掉一条链接,等于告诉你这条结果对他是噪音。他观察说,把产品使用和反馈合二为一的产品,数字世界只有两个:谷歌的每次点击都是反馈,TikTok的每次停留都是投票;物理世界最接近的是特斯拉Autopilot,你打方向盘是在救自己的命,顺便交了数据。他开玩笑说,谷歌让地球上每个人都成了它的免费标注员。反馈问题的唯一解法是产品工程,让使用动作本身成为反馈,到今天没有任何一家LLM公司真正解决这件事。
一秒出答案,背后是一笔工程账
Nathan问了个开发者都好奇的问题:为什么Perplexity的首个token能稳定在一秒以内?OpenAI的Boris Power估算过,把整个互联网做embedding要花5000万美元,Perplexity显然没走这条路。
斯里尼瓦先泼了盆冷水:把全网embedding一遍,得不到好的索引和排序。如果这条路走得通,谷歌早就被干掉了。一个页面还需要新鲜度判断、内容变更检测、摘要生成、按查询类型调整排序,这些老搜索的活一样不能少。Perplexity的实际架构是把LLM架在传统搜索引擎之上:拿用户的查询去谷歌或Bing取回头部链接,再把链接内容作为上下文喂给模型,生成带引用的答案。他坦承速度是团队一点点抠出来的,核心成员来自Quora和Meta,做的正是排序和搜索。
流式输出是个好例子。第一版没有流式,用户要干等四五秒,上了流式之后体感延迟立刻不同,其他公司跟着学。他说谷歌内部早年就有Lambda聊天机器人,没做流式,其实做得到,只是没把它当优先级,OpenAI把它当回事就做了。Perplexity的工程师还向NVIDIA开源的Triton推理库提交了流式推理的代码改进,回馈整个社区。至于目标,他提到谷歌Jeff Dean那篇讲长尾延迟的论文:在最烂的网络环境、信号只剩一格的时候,也要有谷歌那么快。
还有一个容易被忽略的细节:答案里的下划线词。点一下“Detroit”,下一个问题自动接上底特律的语境,相当于把维基百科的内链做成了动态追问。团队内部叫它“给每个用户的动态个性化维基百科”。Nathan说给朋友演示时总要先解释一句这跟维基百科不一样,斯里尼瓦承认用户教育没做好,但他也认账:最好的功能根本不需要解释,我们还没到那个水平。永久链接分享、主题社区、类似Community Notes的协作纠错,都在计划里,他想让人类在他的平台上协作,别让一切由AI生成。他们还做了个Chrome扩展,问题后面加个Reddit就能只从Reddit取答案,正好接住了无数人在谷歌搜东西时手动加Reddit后缀的习惯。
多模态也在清单上。他最早给种子投资人Elad Gil pitch的点子就是让搜索跑在眼镜上,当时被泼了冷水,说2021年做这个太早。现在模型侧已经就绪,DeepMind的Flamingo能看图答题,Whisper几乎包揽了语音识别,他判断三四年内硬件跟上,就能实现边走边问。但他也提醒,多模态不想清楚产品就别上,他见过别家产品问鲸鱼答圣何塞天气的翻车现场。
真相、审查和那条红线
聊到审查,他举了个例子。Marc Andreessen测试过ChatGPT一个问题:AI能从医学影像判断人种吗?ChatGPT拒绝回答。同样的问题丢给Perplexity,它会给出正式发表的研究论文,告诉你深度神经网络确实能做到,同时补充相关性不等于因果。答案不替你下结论,把来源摆在你面前。
Perplexity的解法是把控制权交给用户:编辑引用源。你不信华盛顿邮报就删掉,觉得纽约时报偏左就换掉,生成你自己版本的答案再分享。他甚至说,真正该拿来对标他们的公司是马斯克刚宣布要做的那个可信AI,不是Bing也不是OpenAI。他把几家巨头的目标摆在一起:微软想干掉谷歌,谷歌想活下来,OpenAI想造AGI,Perplexity想做的,是汇总所有信息源、呈现所有视角的可信平台。
但红线是明确的。有人问怎么自杀,这类查询直接封禁,还要防着用户换种语言绕过。他承认存心搞破坏的人永远能找到漏洞,产品要做的是堵住那些用最自然的方式把产品用坏的路径。他们自建了一套安全过滤器,微软Azure OpenAI团队夸他们做得比微软自己还早还好。Nathan提到新Bing发布会上的名场面:有观众当场说新Bing可以被用来策划校园枪击。所有玩家都在同一片未知水域里摸索,他盼着行业早点出现一套共同的安全标准。
变现目前没有,也不着急。最顺手的赞助链接恰恰是他们最警惕的:如果谁出钱多谁就能被引用,信任就没了,“世界上最可信的信息服务”就成了空话。他有个很早期的想法:做一个让人们为真相和正确性付费的平台,为曝光付费那一套先放一边。他清楚这有多难,马斯克在Twitter上正在试,而Twitter的互动恰恰靠争议驱动。至于搜索的格局,他判断垄断会被打破,利润率会下降,因为LLM让“世界第一的索引”不再是入场券,谷歌的领先会第一次收窄。他补了一句很妙的观察:终结这个时代的Transformer,就是谷歌自己发明的。
AGI、贫富差距和“每天像周末”
对话后半段拔高到了AGI。斯里尼瓦的立场很鲜明:
我们需要造AGI,这样人类就可以回去好好生活。不是每个人都需要拼命工作。
他的论证是技术平权:今天你买台iPhone 14,用的手机和全球首富马斯克是同一款;你现在的生活质量,超过了50年前的美国总统。技术是把人类拉平的最大工具。当智能不再稀缺,你不用再跟同学卷谁IQ最高,可以去做自己觉得有趣和有创造性的事,把AI当成随身的神谕和教练。
Nathan抛出了AI圈流行的预测题:Metaculus上“弱AGI何时公开亮相”有四条标准,图灵测试和Winograd基准基本过关,看图做SAT那条接近,最难的是让AI玩雅达利游戏《蒙提祖马的复仇》,探索完全部24个房间,折算游戏时长不超过100小时,社区预测的中位数是5年。斯里尼瓦押不到5年,可能2到3年,理由是真正的难点在稀疏奖励下的探索,而语言恰好可以充当探索的引导。他甚至说弱AGI某种意义上已经存在,把现有模型拼起来就能满足大半标准。真正该关心的是另一头:LLM已经在替人类干有经济价值的活,营销、销售、编程、研究、数据清洗,这才是GDP层面的真变化。他博士期间那篇决策Transformer也回到了牌桌上,Anthropic两周前的论文正尝试用类似思路,把人类反馈信号直接混进预训练。
问到OpenAI是否可信,他毫不掩饰:Sam Altman可能是当下世界上最适合干这件事的CEO,而且他本人在营利实体里没有股份,只在非营利部分有权益,激励是对齐的。想对AGI的未来有发言权?先去做事挣资格,马斯克光抱怨没用,所以他去建新实验室了。
Nathan提了一个更冷的问题:如果模型在人类反馈训练里学会给出“得分最高”而非“真实”的答案,欺骗就埋进了系统,而我们还没有可解释性工具去检测它。他还拿2008年金融危机类比,合成MBS和CDO当年也被认为风险分散得很好。斯里尼瓦引用Anthropic的宪法AI论文回应:让模型给模型的输出打分,人类只负责定原则,未来会有一套所有人遵守的协议,系统在原则之上自动运转,他不担心人类操纵系统导致失控的场景。
对未来的希望,他说得很朴素:繁琐的活都消失,人人不再焦虑,每天过起来像周末。担忧同样具体:短期内的收入不平等。Perplexity自己就是例子,七八个人干了过去几十人的活,没有市场专员,工程师靠Copilot和ChatGPT写代码,写iOS应用的人直接在SwiftUI文档页面上用Perplexity提问学习。AI工具越好,公司越小,只需要最强的工程师,更多人的岗位会收缩,直到全民基本收入成为长期方案。他认为短期阵痛已经发生,被裁的人短期内不会被立刻雇回去。
明天就能用上的三件事
- 把Perplexity当学习工具用起来。遇到新框架、新文档,直接在文档页面上提问,让它带着引用给你讲清楚,这是Perplexity自家工程师写iOS应用的真实工作流。
- 做AI产品的人抄两条原则:先问用户在乎什么,用户不在乎你用什么模型;反馈别靠弹窗讨要,把它设计进使用动作里,学谷歌的点击和TikTok的停留。
- 评估任何AI产品时多问一句成本结构。靠烧API撑起来的体验,大概率会在某天悄悄降级模型。反过来,自己创业时记住那句话:永远别为了活得久一点,给用户端上一个更差的模型。
顺带一提,斯里尼瓦每天离不开的三样工具是ChatGPT、Perplexity和Grammarly,外加Gmail的智能撰写。他说Grammarly被严重低估,因为它看起来不够“AGI”,却实实在在帮他省下大量写邮件的时间。好用的AI工具,未必都长着一张未来主义的脸。
We talked to Aravind Srinivas about competing with the tech giants, Perplexity's product philosophy and obsession with maximizing value delivered to the user per unit time, and the features that makes Perplexity unique.
We're hiring across the board at Turpentine and for Erik's personal team on other projects he's incubating. He's hiring a Chief of Staff, EA, Head of Special Projects, Investment Associate, and more. For a list of JDs, check out: eriktorenberg.com.
(0:00) Preview
(1:31) Introduction & Context
(08:06) Aravind’s vision for Perplexity as the world’s most truth-centric company
(9:29) Raising the average IQ of the world
(12:00) Aravind’s favorite tech entrepreneur
(15:12) “Anthropics” - Building your own model vs user experience
(33:00) Why is perplexity free
(43:00) Talking shop: Perplexity’s tech stack and speed
(1:06:00) Perplexity’s stance on guardrails on search
(1:19:48) Forecasting weakly general AGI: The four criteria
(1:28:00) Aravind’s perspective on OpenAI and the future of AGI
(1:39:00) The Cognitive Revolution’s rapid fire questions: Neuralink implant? Most used AI tools? AI hopes and fears?
Twitter handles:
@CogRev_Podcast
@AravSrinivas (Aravind)
@labenz (Nathan)
@eriktorenberg (Erik)
SPONSOR: SHOPIFY:
Shopify is the global commerce platform that helps you sell at every stage of your business. Shopify powers 10% of ALL eCommerce in the US. And Shopify's the global force behind Allbirds, Rothy's, and Brooklinen, and 1,000,000s of other entrepreneurs across 175 countries.From their all-in-one e-commerce platform, to their in-person POS system – wherever and whatever you're selling, Shopify's got you covered. With free Shopify Magic, sell more with less effort by whipping up captivating content that converts – from blog posts to product descriptions using AI. Sign up for $1/month trial period: https://shopify.com/cognitive
Join 1000's of subscribers of our Substack: https://cognitiverevolution.substack.com/
References & Shownotes:
Flamingo: https://www.deepmind.com/blog/tackling-multiple-tasks-with-a-single-visual-language-model
Decision Transformer Paper: https://arxiv.org/abs/2106.01345
Aravind on TalkRL Podcast: https://www.talkrl.com/episodes/aravind-srinivas-2
Weakly General AGI Criteria: https://www.metaculus.com/questions/3479/date-weakly-general-ai-is-publicly-known/
RECOMMENDED PODCAST:
The HR industry is at a crossroads. What will it take to construct the next generation of incredible businesses – and where can people leaders have the most business impact? Hosts Nolan Church and Kelli Dragovich have been through it all, the highs and the lows – IPOs, layoffs, executive turnover, board meetings, culture changes, and more. With a lineup of industry vets and experts, Nolan and Kelli break down the nitty-gritty details, trade offs, and dynamics of constructing high performing companies. Through unfiltered conversations that can only happen between seasoned practitioners, Kelli and Nolan dive deep into the kind of leadership-level strategy that often happens behind closed doors. Check out the first episode with the architect of Netflix’s culture deck Patty McCord.
https://link.chtbl.com/hrheretics
This show is produced by Turpentine: a network of podcasts, newsletters, and more, covering technology, business, and culture — all from the perspective of industry insiders and experts. We’re launching new shows every week, and we’re looking for industry-leading sponsors — if you think that might be you and your company, email us at erik@turpentine.co.
本集资源与出处
- 视频在 YouTube 收看
- 音频节目 MP3 直链来自官方播客 RSS
- 订阅Apple Podcasts
- 官网节目官方页面
- 文本精读 Markdown 版便于引用与 AI 读取


