把软件塞进模型里：Tasklet 用两层智能体接住 3000 个集成

Tasklet 上线第一周，创始人 Andrew Lee 收到的用户反馈里，抱怨「AI 擅自乱动我系统」的数量是 0 条，bug 报告是几百条。

这个零很反常。Tasklet 干的事就是把你的 Gmail、Notion、Slack、数据库、几千个业务系统全部接给一个模型，让它自己去规划、自己去执行，还能定时跑。按常理，这种产品应该被安全团队第一个拦下来。

Andrew Lee 是 Shortwave 的创始人兼 CEO，Shortwave 是目前少数几个主持人 Nathan Labenz 每天在电脑和手机上都在用的 AI 产品。这是他第三次上 Cognitive Revolution。第二款产品 Tasklet 从 2025 年 5 月底开始写，10 月上线，官网 tasklet.ai，免费试用。

这一期聊的内容密度很高：两层智能体架构、记忆为什么最后回到了 SQL、3000 个集成怎么堆出来、为什么公开唱衰 MCP、为什么到今天还在靠手感选模型。

把软件包在模型外面，还是把模型包在软件外面

传统自动化产品（Zapier、n8n、OpenAI 的 AgentKit）控制权在传统软件手里。你画流程图，定义第一步第二步第三步，某些框里塞一个 LLM 调用。软件是主人，模型是零件。

Tasklet 把这个关系倒过来。

「与其让软件包住 LLM，不如让 LLM 包住软件。」

模型做大决策，模型自己决定下一步调哪个工具，传统软件退到工具层去执行。Andrew 管这叫「永远押注模型」：模型只会越来越聪明，所以正确的做法是不断把更多自主权交给它。

这里有个反直觉的推论。Nathan 原本以为，把任务拆得越细、控制得越死，可靠性就越高，易用性和稳定性之间必然有取舍。Andrew 说，工作流产品遇到没预设过的错误状态就直接崩，智能体碰到同样的情况会自己绕过去，换个路径把事做完。现实世界是一团乱麻，工作流工具天天坏，智能体反而在某些场景下有更高的鲁棒性上限。

他也没把话说满：用今天这批模型，大部分商业场景里，全智能体的方案确实还不如精心搭的工作流可靠。但这个时间窗口他给的是大约半年。

更关键的一点是，模型可以自己给自己造护栏。Tasklet 现在会让 LLM 去推断某个 API 该有什么类型限制，然后把约束写进代码强制执行。沿着这条路走下去，你可以要求「这个阶段必须按顺序做这几步」，模型自己把这条规则编译成代码里的校验。放权的模型，有能力给自己造笼子。

两层结构：一个能随时聊的主智能体，一群跑一次的子智能体

Tasklet 的产品结构分两层。上层是一个长期存在的主智能体，它持有指令，接受触发（定时、webhook、收到邮件），然后派子智能体去实际跑一次。

第一版没这么设计。当时只有「配置模式」和「运行模式」，自动化跑起来之后你就没法跟它说话了。用户立刻抗议：我配置了一个邮件分诊智能体，接了 Notion 和 Asana，写了一堆规则，现在我就想让它顺手帮我写封邮件，为什么不行？难道我要重新配一个，把授权和提示词再走一遍？

改完之后用户开始给智能体起名字，不叫「我的邮件分诊工具」，叫「Joe，我的行政助理」。Joe 每天自动干活，也随时能接临时请求。

这个改动带来的数据很有意思：付费用户几乎人人都有至少一个定时任务，但绝大多数消息是那些临时对话，不是自动化运行本身。

Andrew 对产品定位的说法很直接：ChatGPT 和 Claude 是短对话，聊完就忘，你有一长串再也不会点开的记录。Tasklet 想做的是重得多的东西，一个你养几年、越用越值钱的智能体。

记忆：先写了个最笨的版本，最后回到 SQL

Nathan 讲了自己踩的坑。他有个检索论文的智能体，每天跑一次，跑完把当天推荐的论文存进记忆。他翻运行日志发现，智能体常常在第二天开工时根本没读记忆，导致重复推荐。

他没去改单次运行，而是回到主智能体说：我注意到你开工时不读记忆，这造成了重复，以后每次运行开始先读。

智能体改了自己的指令，后续所有运行都带上了这条规则。

Andrew 顺着讲了实现的三代演进。第一代是他们能想到的最笨的办法：在 system prompt 里塞一个 JSON 对象，模型可以用工具调用直接增删字段。这个笨办法居然真的能用。

问题出在两处。JSON 会长，一两周之后对象大得开始失灵；可变状态放在 system prompt 里对缓存是灾难，而缓存直接决定毛利。

于是换成每个智能体一个 SQL 数据库。模型写 SQL 的水平出奇地好，给它一个库，告诉它能存能取，让它自己给自己写管理规则，就跑起来了。

Andrew 明确说这不是终局。指令里写「每次收到邮件存一行，每次开工读全表」，表迟早会爆。他正在看的方向是给智能体准备「解压」工具，历史被压缩掉之后，需要的时候能按需调回来。

还有一个战略判断值得记下来：Tasklet 不接外部记忆产品（Mem0、Supermemory 那一类）。理由是智能体的内部状态只是数据来源之一，更大的一块在 Gmail、Notion、Salesforce 这些外部系统里，那些数据量大到不可能全灌进来。他的赌注是模型会越来越会用传统搜索接口。两年前那批把所有系统数据抽干、做 AI 搜索的公司，现在大概在重新算账。

3000 个集成，以及 MCP 的降温

Tasklet 对外说支持 3000 多个业务工具，任何 API，任何 MCP。

路径很朴素。Shortwave 自己做了一批手写集成，联合创始人提议接 PipeDream 这类集成平台，一接就是几千个。加 MCP 也顺。然后他们想，HTTP API 是不是也能这么干？于是做了「直连 API」，把调用方式告诉模型，加一些约束，随便给一个 API 就能连。系统还会自动去网上抓这家服务的 API 文档、提取描述。

效果好到出现这样的情况：有付费用户把官方 Notion MCP 关掉，改用 LLM 现场生成的直连 API，因为更稳、bug 更少。

这引出了整期最锋利的观点。Claude 4 出来之后他们重新盘了一遍 MCP 的前提：如果工具定义最终就是一比一映射到 API 调用，而那些 API 在网上都有文档，MCP 还有多少意义？模型已经能自己读文档、自己写工具描述。

「我们的直连 API 使用频率，远远高于 MCP。」

MCP 还剩两块价值：OAuth 授权流程（比如 Notion 那种覆盖整个 workspace 的授权，目前只有 MCP 走得通），以及少数服务商确实写得好的工具定义。Tasklet 干脆全都提供，MCP、直连 API、集成平台、手写连接四选一，最后还有 computer use 兜底，专门对付 LinkedIn 这种没有 API 也不打算给你的网站。

往前看，真正的分水岭是「聪明的 MCP」，服务方在工具层做封装，把「转发一封邮件」这种需要三步 API 才能完成的事包成一个意图级动作。Andrew 的判断是，这类手工封装的工具长期会被模型本身淘汰，因为维护成本高，而且模型迟早自己能拼出来。

仍然靠手感选模型

Nathan 问评测体系。Andrew 答：还是靠 vibes。

理由很实在。今天没有 Anthropic 的可行替代品，新模型一发布，客户催着当天上线。就算做了评测、结果不好看，最后也还是会发，无非是回头调调 prompt。产品本身还在剧烈变化，任何拖慢节奏的东西都是真金白银的损失。用户说得很清楚，最想要的是最聪明最强，可靠性排在后面。

他的「手感」是有结构的：系统设计成随时能换模型。单轮问答，OpenAI 的模型可能还更好；但 LLM 调工具、工具返回、再调 LLM，这种长链条，Anthropic 处理得更稳，每一轮好一点点，一百轮之后差距就拉开了。

他给了一个经济学证据：如果 GPT-5 在这些场景真和 Sonnet 一样好，它的价格不到一半，所有人早就跑了。Anthropic 出 4.5 的时候没降价，价格守住了，说明有人在选。

分歧点在这里。按 METR 那张「任务时长」图，Sonnet 4.5 落在 GPT-5 下面一点，大约 2 小时、50% 成功率。Andrew 说自己也不知道为什么有这个差别，他的刻薄猜测是有人更擅长刷指标。他坚持实际体验里 Anthropic 更好。

指令冲突：一个人专门盯着 prompt 找矛盾

Andrew 讲了一个很具体的管理动作。全公司只有一类 PR 要他亲自过目，就是碰主 prompt 的那些。他不是 CTO，技术上也轮不到他 review，但他要看。

他只看一件事：有没有互相打架的指令。

一堆人各写各的部分，单看都合理，合起来就自相矛盾，而且这种情况出现的频率比想象中高得多。GPT-5 的提示词指南也专门警告过，矛盾指令对性能是巨大的拖累。

产品上的对应改动更狠。Tasklet 以前允许用户手动编辑子智能体的中间指令，后来把这个功能关掉了。因为你在对话里跟主智能体说了一堆要求，又跑去文件里手改指令，主智能体很难调和这两份事实，它只知道你后来又加了东西，不知道你到底想要哪个版本。

下一步可能连预生成指令都不做了，改成即时生成、在旁路算完，每次都把所有信息重新算进去。你想看指令，直接问它要一份摘要就行。

成本账：现在深度亏钱，靠配额和 Haiku 撑着

Shortwave 已经实现盈利，毛利健康，虽然够不上传统 SaaS 的 90%。Tasklet 回到了起点，现在是深度负毛利。

短期靠配额表控制：输入框旁边那个小仪表，告诉你今天还剩多少额度。中期靠 Haiku 4.5，价格大概是 Sonnet 的三分之一，多数场景够用，一开放就能显著抬高每个人的可用 token 上限。

缓存这块他给的技术细节非常可抄。第一，把对话当成不可变日志，永远不要修改早期消息，改一条就整段缓存作废。第二，Anthropic 有五分鐘、一小时几档缓存，不同部分选不同档。Shortwave 的缓存命中率做到了 85% 左右。

最值钱的一招是搬家：把时间、日期、用户状态、记忆这些每时每刻在变的东西，从 system prompt 挪到 system message 里，作为用户消息上方一小段对界面隐藏的 XML 插进去。放 system prompt，一分钟过去缓存全废；做成工具调用，每次多一轮往返，同样贵。system message 两头都占了。

还有个隐形成本他自己点出来了：免费用户建的定时任务在空转。有人一个月前设了个每天跑的智能体，邮件发到垃圾箱，人再没打开过产品，模型费用照付。付费用户愿意付就让他付，免费用户得靠行为信号识别，长期不活跃就提醒，还不来就停掉。

安全：SOC 2 还没做，但零投诉这件事值得琢磨

Tasklet 上线一周，还没有 SOC 2，Andrew 说计划尽快做。他认为 SOC 2 依然有意义，它管的是公司员工别乱碰你的数据。但今天还多了一层，智能体别乱来，这层没有标准。他跟一圈安全从业者聊过，得到的答案是「我们也不知道，这是西部荒野」。

更值得琢磨的是那个零。他原本以为最大的商业障碍是客户害怕 AI 乱来，不敢接系统。结果一条投诉都没有。他把这归因于产品意图足够明确，所有人从第一天就知道这东西就是来放权的。

Nathan 提到 AIUC-1 这类智能体标准，以及用保险给 AI 风险定价的思路。Andrew 举了 Airbnb 的例子：早期有房客把房东房子搞坏，公司赔钱、建立保险，那件事对品牌是转折点。他说中长期的成功完全取决于能不能成为企业最信任的部署智能体的地方。

离虚拟员工还差什么

最硬的限制是 50 轮。每次运行最多 50 轮，本来是防止 bug 烧穿账户，现在经常撞墙，computer use 最容易撞。让智能体去 LinkedIn 找十个人各发一条消息，每一步都是一轮。这个数必须往上抬。

computer use 的瓶颈是成本和速度，靠截图挪鼠标太贵。他试过让 Gemini 做子智能体分担一段，代价是智能损失，传回主智能体的只剩压缩后的结论。眼下的策略就一个字：花钱用 Sonnet，等 Haiku 顶上来。

虚拟机形态上，每个智能体有一个 SQL 库、一个代码执行环境、有限的文件能力，可以额外开一台 Linux VM。以前支持过 Windows，太贵、休眠唤醒太慢、用户也没用到浏览器以外的部分，换回了 Linux，Mac 在考虑。他最想要的形态是终端、文件系统、数据库、代码执行、界面全部打通，现在代码能跑，但读不到自己的数据库。最难的是成本，一百个智能体不能真开一百台机器。

多智能体他泼了盆冷水。单个应用、单个用户内部，他没看到一个好案例。一个大模型喂满上下文自己推理，效果最好。多智能体真正有价值的场景是他代表我、你代表你，双方有竞争关系，不愿意共享全部数据。他顺带推荐了前 Firebase 联合创始人 James Tamplin 做的 Cradle，让一堆模型在 Minecraft 这类环境里互相博弈，观察协作和对抗。

明天就能用上的六件事

• 反馈给主智能体，别手动改中间指令。像 Nathan 那样说「你没读记忆，导致重复，以后每次开工先读」，让智能体自己改规则，后续所有运行自动继承，比在单次运行里打补丁管用得多。
• 一个智能体只维护一份指令。任何两处能写要求的地方，迟早会打架。
• 给智能体开一个独立邮箱，起个名字。有人专门注册了 Google Workspace 账号给它，让它以自己的身份收发邮件，心智模型立刻从「工具」变成「同事」。
• 联系人类数据交给 RocketReach 这类服务。智能体自己上网找邮箱的成功率远不如这些做了多年数据交易的公司，Andrew 自己拿它做媒体外联。
• 深研究接 Perplexity 的搜索 API。遇到需要大量网页抓取和交叉核对的活，专业搜索接口比通用模型裸跑更划算。
• 定一条规矩：碰 prompt 的改动，由一个人统一过目，只找矛盾。

最后一点心法。这套东西今天还只能连续干一两个小时，但它每一轮的进步是复利的：单轮好 0.1%，一百轮下来就是量级差异。所以别拿「单次回答质量」去判断该不该用智能体，该看的是第 100 轮它还在不在正轨上。这个指标，过去两年一直在涨。