七成邮件是推销信:前谷歌首席工程师 Matt Welsh 拆解 AI 智能体的第一波机会
E19: The AI Agent Revolution with Matt Welsh of Fixie.ai
前哈佛教授、Fixie.ai CEO Matt Welsh 聊 AI Agent 的最新进展、平台开发者预览以及智能体将如何改变软件。
Matt Welsh 的邮箱里,大约七成邮件是想向他卖东西的:猎头服务、咨询公司、新开的银行账户。他是 Fixie.ai 的创始人兼 CEO,摸索出的最省事对策,是花一分钟写封礼貌的拒绝信。因为一旦不理会,对方的自动化跟进流程会连发五封、十封、二十封,一直骚扰下去。
麻烦在于,一封邮件读完之前,你没法判断它属不属于这一类。Welsh 雇了一位人类行政助理帮他读邮件、分类、回复,他自己承认,这是个「非常费人力的过程」,也恰恰是 AI 该接管的过程。
这段话出自 2023 年 4 月 25 日 Nathan Labenz 的播客 Cognitive Revolution。Welsh 的履历在硅谷算稀有品种:哈佛计算机系教授,谷歌十年资深首席工程师,待过 Chrome 团队,之后去了苹果,再出来创业。Fixie.ai 做的事一句话能说清:让人用自然语言造出能连数据、调 API、自己干活的 AI 智能体(agent)。平台当时刚开放开发者预览,聊天界面里可以像在 Slack 里 @ 同事一样 @ 一个智能体,每个智能体各管一摊活。2023 年 4 月,公司宣布了 1700 万美元种子轮,Nathan 调侃这个金额有点 2021 年融资热的味道。
那一周,科技圈的注意力刚被 ChatGPT 砸醒,「智能体」开始刷屏,而 Welsh 已经在这个方向上干了一年多。Nathan 在开场白里押了个注:智能体会成为未来几年 AI 影响世界的主要方式之一,年底就能看到肉眼可见的进展。这期节目聊的,就是智能体能干什么、卡在哪、会长成什么样。
时机:比 ChatGPT 早一年下注
被问起最近两个月的体感,Welsh 只有一个词:bananas,疯了。他把大模型比作一件刚降落的外星科技:
把 ChatGPT 这样的东西,当成刚刚降落在我们后院的外星科技。所有人都在拆开它,研究到底能拿它做什么。
他自己的起点是一篇论文。2022 年 1 月,谷歌发布 LaMDA 论文,展示了一件事:给语言模型合适的提示,教会它调用外部工具去取数据,就能驱动一套完整的流程。当时研究这个方向的论文寥寥无几,Welsh 认定这是条路,开始基于 GPT-3 搭建 Fixie 的前身。那个时间点,围绕 GPT-3 建公司的还屈指可数,Jasper 算一个,开源社区里 LangChain 刚开始攒演示。
真正的转折点是 ChatGPT。Welsh 的判断很直接:从 GPT-3 到 GPT-3.5,模型有进步,但真正改变一切的是「普及」。同一个能力,从 OpenAI 开发者网站里那个笨拙的 playground,搬进了一个消费级对话框。
你用 GPT-3 的 playground 其实能做出 ChatGPT 的大部分事情,只是远没有那么优雅、那么好用。
他拿互联网史打比方:超文本的概念在 web 之前就有,叫 Gopher,概念一样,体验糟糕,所以没人用。ChatGPT 之于 GPT-3,就是 web 之于 Gopher。能力早就摆在那,谁把用户体验调顺了,谁引爆市场。至于融资,Welsh 说 ChatGPT「把水搅浑了」,投资人的注意力全被引到这个领域,Fixie 恰好提前一年站在了正确的位置上。
一张二维图,定位所有 AI 产品
Nathan 先抛出自己的框架:AI 的用法分两种,副驾驶(copilot)模式和委派(delegation)模式。前者是你自己在开车,AI 坐旁边帮你起草、答问题、做点小分析,随叫随到;后者是你把整件事切下来扔给 AI,连管路怎么接都归它管。他还有个更狠的说法:今天人和 AI 之间的大量信息搬运,搜索、筛选、登录、翻网站、读文档、调 API,全靠我们充当「人肉管道」,只要这层管道还在,流程自动化就快不起来。
Welsh 把这个框架升级成二维坐标。第一根轴:AI 是和人并肩干活,还是「发射后不管」,接到任务就自主执行。第二根轴:AI 处理的对象,一边是理解和生成自然语言,另一边是自动化流程。
拿坐标系去看产品,位置一目了然。Jasper 在「自然语言 + 副驾驶」象限:你给它产品描述,它吐出营销文案,语言进,语言出。Fixie 要去的是对角线另一头:「自主 + 流程自动化」。Welsh 有个说法很传神,语言模型相当于一台用英语编程的计算机,它能做的符号操作远不止处理人写的话,还包括 JSON 对象、电子表格内容、XML 文档这些结构化的东西。Nathan 当场评价,这是节目迄今最好的问答之一。
他还补了一根可能的第三轴:智能体的寿命。一次搜索问答用完即弃,而有些实验里,AI 已经能记住一整天的生活、形成自己的反思记忆。从金鱼到终身伴侣,这根轴后面还会反复出现。
第一波场景:从七成推销邮件说起
失业问题绕不开,Welsh 没有回避:大多数情况下 AI 自动化不会让人失业,但有些工种确实会消失。他给的类比很形象:老照片里,一屋子会计趴在账本上,摇着机械计算器算一整天,那些活今天一张电子表格就干完了。
具体到行政助理这个行当,Nathan 有切身利益。他在给一家叫 Athena 的公司做顾问,这家公司在菲律宾雇了约一千名行政助理,一对一服务高管客户,内部管邮件代拟叫「预起草」(pre-drafting),为此建了一整套培训。Nathan 给自己定的任务是:帮 Athena 成为全世界最会用 AI 工具的 EA 公司,用他的话说,「请替我把我的工作干了」。
Welsh 自己也在用一家叫 Double 的公司提供的行政助理。他觉得 AI 能立刻帮上忙的地方有两块。一块是文字:邮件回复、日程请求、群发通知,对非英语母语的助理尤其费劲,AI 的提升空间巨大。另一块是流程:开头那七成推销邮件,分类、归档、礼貌回复,今天全靠人读人判。他的结论是,模型能力已经够了,缺的是「附肢」:AI 缺少伸进你各个系统里的接口,没法顺手读邮箱、写日历、调 API。
Nathan 补了一个用户视角的坑。他当过 Athena 的客户,例行日程委派得很顺,邮件代拟始终差点意思:内容挑不出错,换成他自己的措辞总觉得隔了一层。这道「最后一公里的语感」,人和 AI 都得想办法过。
安全与记忆:智能体的两颗雷
Nathan 亲自去 Fixie 平台试了玩,带回来一条有意思的用户反馈:他愿意把日历授权给官方的日历智能体,但看到黑客松里别人做的 Gmail 助手,死活不肯授权。信任是逐个智能体、逐项权限算的,每个用户心里都在记这笔账。
Welsh 坦承,现在的开发者预览就是「放开了让大家玩」,企业客户绝不会容忍来路不明的智能体接进内网,大多数企业会选择自建集成,数据流到哪、怎么处理,全部自己掌握。但信任决策本身不新鲜:Zoom、Google 日历、Slack 里挂的各种集成,大家早就在做同样的判断。
真正的新问题是数据流向。Welsh 举了个例子:造一个智能体,吞下公司整个 Notion 内网,什么机密都在里面,然后随便问它问题。这一问背后是一整条链路:查询先路由到某个语言模型,哪个模型、谁有权访问?再进向量数据库取相关片段,谁在运营、数据存哪、怎么删掉?对话历史又存在哪?每一环今天都可能是第三方:OpenAI 或 Anthropic 的模型,Pinecone 的向量库,整条软件供应链都得算进合规账本。
企业要的解法很传统:把足够好的模型放进自家防火墙。Welsh 承认这是当下最大的缺口,好消息是开源模型正在涌来,就在录制那一周,RedPajama 和 Stability AI 各放出一个新项目。
除了传统的数据泄露,还有新威胁。提示注入攻击:网页 HTML 里藏一句人眼看不见的指令,就能操纵读到它的智能体,就像早年藏进网页骗搜索引擎的花招。Nathan 的评价是,互联网在这类事情上从未被打败过,有人找到漏洞就一定有人利用。
Welsh 的应对分两层。第一层,当下就有大量价值可挖,哪怕对模型的绝对安全性信心不足,因为很多场景天然有人把关:邮件草稿发出去前,人总要读一遍,模型再怎么捣乱也就那样,这是一道天然的减速带。第二层,想把模型嵌得更深,就得在模型外面套软件的笼子。他举了前苹果工程师 Shreya Rajpal 的开源项目 Guardrails:给模型写一份规格说明,比如天气智能体的任何回复必须跟天气有关,报出的温度得在合理范围内,模型每次输出都对照检查。Welsh 承认这挡不住所有攻击,但方向对了。他更进一步的想法是专门训练小型验证模型,唯一的任务是给其他模型的输出打分,不需要一个会写儿童故事的通用大模型来做质检。Nathan 立刻联想到 Eric Drexler 的「综合 AI 服务」、Stability AI 的 Emad Mostaque 讲过的「百万小模型」,还有 Constitutional AI,甚至猜测 GPT-4 可能已经在内部用类似的语义校验。
记忆是另一颗雷。Fixie 目前的设计叫 session:用户和若干智能体之间一份只追加的对话记录。节目里有个例子:先让智能体画一张饼图,展示某个 GitHub 仓库提交数前十的贡献者,它会去调 GitHub 取数、再调另一个智能体画图;接着你只说一句「改成柱状图」,它就能接住,因为上下文都在 session 里。但 session 目前基本是一次性的,Welsh 说做成「永久 session」技术上不难,AutoGPT 和 BabyAGI 玩的就是用历史记录指导下一步行动。企业用例倒未必需要永久历史,客服场景先赢下一通电话,就已经赢了。
真正的坑是隐私。他打了个比方:你在 CNN 上手滑点了一双鞋的广告,接下来三周满网都是鞋。永久记忆最怕被无关信息污染,一条错误记忆能把整个智能体带偏。解法是语义分群:工作场景一套记忆,生活场景另一套。他自己的土办法是两个 Chrome 配置文件,一个工作一个私人,井水不犯河水。Fixie 平台上目前只有显式记忆:智能体主动把某条信息存起来以后用,而且必须按终端用户隔离,客服智能体绝不能在处理 A 的工单时说出 B 的订单。
终局形态:耳塞、端侧和苹果的远见
Nathan 问了个大问题:六个月后、两年后,一个人坐在电脑前干活会是什么样?Welsh 提到两个刚冒头的产品:Ember,嵌在桌面环境里的自然语言智能体;MultiOn,嵌在浏览器里。这类东西一旦不等你按快捷键提问,而是主动看着屏幕上发生的一切,性质就变了。Welsh 举着自己那台 MacBook Air 说,整个 Fixie 公司就装在这台机器里:邮件、Zoom 会议、文档、代码,全在。没有理由不让一个 AI 智能体掌握你整个工作生活的全部状态,顺带大部分私人生活。到那一步,Siri 那种「提醒我周三开会」就太初级了,机器应该自己知道你有什么事要处理。
他认为要凑齐三样东西:一是顺畅统一的用户体验,ChatGPT 已经证明过一次;二是个人数据的集散中心,浏览器、日历、邮箱、短信、Twitter 今天全散在各个地方,AI 要帮忙就得拿到和你同级的访问权;三是透明和控制,用户随时能看到、能撤销授权。
说到数据,Welsh 讲了段亲历。他待过 Chrome 团队,Chrome 默认记录你访问的每个网站、点过的每个链接,大多数人根本不知道这回事,因为一个藏在角落里的历史标签页进不了日常视线。他随后抛出更激进的判断:理想形态是数据只留在你自己的设备上,计算也发生在设备上。他在苹果工作过一段时间,苹果正是这个路线:不靠挖个人数据赚钱,重金投入芯片让端侧算力撑得起推理,代价是广告定向会变差,但他认为世界最终会走到这一步。Nathan 接话,配合芯片上的重注,苹果这套路线可能显得极具先见之明。
Nathan 还提了一个自己都承认半成品的想法:「自带嵌入向量」(bring your own embeddings),应用拿到的只是语义索引,原始数据永远不出你的设备。Welsh 觉得有趣,说这跟联邦学习有点像;今天嵌入向量其实能被相当好地逆向,但也有研究在做单向变换,保住近邻检索能力的同时堵死还原的路。不过他不信世界会等这套东西成熟:web 早期连 HTTPS 都没有,明文跑了很多年,SSL 出来后各家网站的采用还磨蹭了许久。新技术总是在安全和隐私就绪之前起飞,人们会心甘情愿把敏感数据交给未来的谷歌和 Facebook,换取眼前的价值。
至于交互形态,Welsh 押的是电影《她》(Her):一只耳塞,随口说话,AI 在耳边低语,需要看的东西显示在手机上。眼镜他试过,在谷歌时他是少数在真实世界使用 Google Glass 的内部测试者,那东西没火,很大程度上因为脸上挂个摄像头社交上不可接受。耳塞藏在耳朵里不引人注目,而手机已经备齐屏幕、触控、语音和扬声器。文档和大屏场景仍需要文字界面,但走出桌面之后,耳塞加手机就是那个终极形态。
希望、恐惧,和明天就能做的事
节目结尾,Nathan 问了他最大的希望和恐惧。希望这边,Welsh 说得动情:
今天想充分利用计算机,你得属于一个会写代码的精英祭司阶层。把 AI 交到地球上每个人手里,会带来第二次信息革命。
恐惧这边,他想的是自己的孩子。写一篇好文章、写一段聪明的程序,这些旧的学习和评价方式会失效,那学校还考什么,谁拿 A 谁拿 C?他补了一句相当清醒的话:这些评价体系衡量的本来就未必是真正的智力,只是一些碰巧被看重的属性,AI 一来,规则得全部重写。他给自己的态度是「谨慎的乐观」。
这期节目录制于 2023 年 4 月,此后智能体确实成了行业主线,安全、记忆、端侧推理也全变成了显学,Welsh 当时的判断大多应验。对普通读者,有几件事明天就能做:
- 拿「副驾驶还是委派 × 自然语言还是流程」这张二维图扫一遍日常工作,标出你充当人肉管道的环节:读分类转发、抄录搬运、格式转换,这些是智能体的第一批目标。
- 选自动化场景时,优先挑有天然人工检查点的:草稿先过你的眼再发出去,模型出错的空间就被锁死了。
- 用任何 AI 应用前问三个问题:查询发到了谁的模型、向量库存了什么存在哪、对话历史能不能删。答不上来的,慎重授权。
- 工作和生活拆成两个浏览器配置文件,这条土办法今天就能防住未来的记忆串味。
- 盯住开源模型的进展,私有化部署的选项越多,企业把智能体放进防火墙的路就越宽。
至于那七成推销邮件,按 Welsh 的判断,让 AI 替你分类、归档、礼貌回复的那天,不会太远。
Nathan Labenz sits down with Matt Welsh, the CEO and co-founder of Fixie.AI which just raised $17M in seed funding. The technology world's attention has turned en masse to AI agents over the last month, but Matt, a former Harvard professor and ex-Google, has been focused on AI agents for longer over at Fixie. The platform is currently in developer preview mode, where developers can build agents and end users can try them.
Agents hold the promise of handling not only the core cognitive work, but many of the messy implementation details as well – the searching & finding, sorting through & scanning, signing in & navigating, reading documentation & using APIs – all the manual ad hoc routing of information for which we act today as human plumbing.
--
We're hiring across the board at Turpentine and for Erik's personal team on other projects he's incubating. He's hiring a Chief of Staff, EA, Head of Special Projects, Investment Associate, and more. For a list of JDs, check out: eriktorenberg.com.
RECOMMENDED PODCAST:
The HR industry is at a crossroads. What will it take to construct the next generation of incredible businesses – and where can people leaders have the most business impact? Hosts Nolan Church and Kelli Dragovich have been through it all, the highs and the lows – IPOs, layoffs, executive turnover, board meetings, culture changes, and more. With a lineup of industry vets and experts, Nolan and Kelli break down the nitty-gritty details, trade offs, and dynamics of constructing high performing companies. Through unfiltered conversations that can only happen between seasoned practitioners, Kelli and Nolan dive deep into the kind of leadership-level strategy that often happens behind closed doors. Check out the first episode with the architect of Netflix’s culture deck Patty McCord.
https://link.chtbl.com/hrheretics
TIMESTAMPS:
(00:00) Preview of the episode
(02:08) Why AI Agents are so topical right now, and Matt's prescience with Fixie
(06:40) How Matt started Fixie
(10:55) How AI Agents "figure out the plumbing"
(15:57) How Matt envisions work changing in the near term + concrete examples
(22:40) Building your own agent
(26:00) New threat model and guardrails of this new paradigm
(34:48) Synthetic memories in autonomous agents
(42:39) Examples of incredible use cases
(48:00) Single sign on idea
(51:00) Form factor for AI-assisted living
(54:32) Matt's hopes and fears for AI
TWITTER:
@CogRev_Podcast
@mdwelsh (Matt)
@labenz (Nathan)
@eriktorenberg (Erik)
SPONSORS:
Shopify is the global commerce platform that helps you sell at every stage of your business. Shopify powers 10% of ALL eCommerce in the US. And Shopify's the global force behind Allbirds, Rothy's, and Brooklinen, and 1,000,000s of other entrepreneurs across 175 countries.From their all-in-one e-commerce platform, to their in-person POS system – wherever and whatever you're selling, Shopify's got you covered. With free Shopify Magic, sell more with less effort by whipping up captivating content that converts – from blog posts to product descriptions using AI. Sign up for $1/month trial period: https://shopify.com/cognitive
Thank you Omneky for sponsoring The Cognitive Revolution. Omneky is an omnichannel creative generation platform that lets you launch hundreds of thousands of ad iterations that actually work, customized across all platforms, with a click of a button. Omneky combines generative AI and real-time advertising data. Mention "Cog Rev" for 10% off. https://www.omneky.com/
More show notes and reading material released in our Substack: https://cognitiverevolution.substack.com
Also, check out the debut of co-host Erik's new long-form interview podcast Upstream, whose guests include David Sacks. Ezra Klein, Balaji Srinivasan, and Marc Andreessen.
Subscribe:
Apple Podcasts: bit.ly/3z8TldL
Spotify: bit.ly/40letd0
Music Credit: OpenAI's Jukebox
本集资源与出处
- 视频在 YouTube 收看
- 音频节目 MP3 直链来自官方播客 RSS
- 订阅Apple Podcasts
- 官网节目官方页面
- 文本精读 Markdown 版便于引用与 AI 读取


