# 不到 100 人服务 2400 万用户，Replit 想让下一个 10 亿人写软件

> Cognitive Revolution No. 51 中文精读

- 原标题：E51: Replit's VP of AI, Michele Catasta, on Artificial Developer Intelligence
- 发布日期：2023-08-08
- 主持：Nathan Labenz
- 网页版：https://cogrev.1mmt.com/ep/051-e51-replit-s-vp-of-ai-michele-catasta-on-artificial-develope-u4l6Gg.html
- 精读字数：约 5525 字（阅读约 12 分钟）

> 本文为 cogrev.1mmt.com 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。

一家公司，员工不到 100 人，用户刚突破 2400 万。2023 年 8 月，播客 Cognitive Revolution 请到 Replit 新任 AI 负责人 Michele Catasta，他几个月前刚从谷歌跳槽过来，入职后干的第一件大事，是发了一份 AI 宣言，核心词叫 ADI，Artificial Developer Intelligence，人工开发者智能。宣言里的目标写得很大：让下一个 10 亿人具备写软件的能力。

主持人 Nathan Labenz 是创业者和 AI 投资人，他给全球真正在牌桌上的 AI 公司列过一份名单，只有 15 到 20 家，Replit 在列。上一期节目里他花了整整 10 分钟论证 Replit 可能成为全球最重要的公司之一，这一期直接请来了管 AI 的最高负责人。对话信息量很足：ADI 的技术路线、效率提升的三个台阶、键击级的数据护城河，还有主持人和嘉宾当场的几次交锋，值得逐段拆开看。

## 从谷歌到百人公司：一次慢炖的跳槽

先交代背景。Catasta 在谷歌时是 PaLM 代码能力的贡献者之一，项目当时叫 PaLM Coder。他本来就是 Replit 的粉丝，主动给 CEO Amjad Masad 和团队演示过 PaLM，后来从非正式顾问到正式顾问，再到全职加入。用他自己的话说，这是一次慢炖。

谷歌和 Replit 的合作里，他扮演过内部推动者的角色，但他坦承自己只是中层研究者，拍不了板。他高兴的是合作最终成了，因为 Replit 要给几百万用户送算力，这种资源消耗靠自己扛不下来。

为什么离开谷歌？他的回答很直接。谷歌的 AI 人才密度惊人，资源多，很多事做起来确实更容易。但小公司流程少、迭代快，方向不对立刻掉头，不会因为沉没成本死磕一个错误决定。他说自己长期不属于大厂，在 Replit 感觉自在，因为目标极其聚焦：给开发者最好的 AI。

Nathan 补充了一个有意思的视角：Replit 人数少，某种意义上也算「在位者」。它花多年搭好了云端开发环境，容器、多人协作、版本历史全都现成，AI 层直接盖上去就能跑。新人甚至体会不到本地配环境、同步 Python 版本的那种折磨，因为平台天然就是顺的。Catasta 认同这个判断，同时强调公司内部没人觉得「已经成功了」，所有人还在聊三年五年要做的事。顺带一提公司文化，Replit 给新员工的页面里写着「我们不站队」，内部讨论的是负责任的 AI，政治话题没精力碰。

## ADI：先跑起来，再收敛到对的答案

ADI 这个词是刻意跟 AGI 区分开的。Catasta 说得很坦白：

> 我不想在任何场合预测 AGI 什么时候到来。大家基本都同意它会发生，但我们关心的是未来几年能交付什么。

他给 ADI 描绘的形态是一个循环：AI 生成代码，平台立刻执行，把运行报错和用户反馈一起喂回模型，再生成，再执行，直到收敛到用户真正想要的东西。老程序员都认识 REPL 这个词，原本指读取、求值、打印、循环，Catasta 在宣言里把它重新解读成反思、求值、渗透、学习，把这个有几十年历史的术语，变成了公司 AI 战略的核心反馈环。

现状是，大模型生成的代码「半连贯」，大体符合用户意图，时不时出错。有经验的开发者知道怎么从 bug 里爬出来，从没写过代码的人会被第一个报错卡死。宣言里的目标用户画像很明确：没有计算机科学背景的业余爱好者，落到 Replit 上，想用最短时间把一个想法变成原型。ADI 要解决的就是这个收敛问题。

这里藏着一个关键判断：**代码比自然语言更适合让 AI 变得可靠**。编程语言几十年来就是为消除歧义设计的，外围还有一堆质量保障工具兜底。所以 Replit 认为不必等 AGI，靠代码这个场景就能先挖出巨大的价值。

Nathan 对这个区分持保留态度。他在行政助理公司 Athena 做顾问，训练完全没有编程背景的助理用 AI 造软件，经验告诉他，下一批 10 亿开发者会极度依赖 AI，ADI 和 AGI 的边界未必像 Catasta 想的那么清晰。这个分歧贯穿了整期节目，后面还会回来。

## 效率三级跳：2 倍、10 倍、1000 倍

聊到生产力，Catasta 给了一个清晰的三级台阶。

2 倍已经到手。光靠代码补全就能做到，GitHub Copilot 公布过数据，开发者最快提效 55%，Replit 的 Ghostwriter 内部看到的数据类似。Andrej Karpathy 也发推说，没有 Copilot，他会浪费一半的生产力。他写代码的年头跟 Catasta 差不多，连他都回不去了。

10 倍在一两年内可以够到。路径是更强的调试加上 agent 化：AI 先给架构方案，再搭项目脚手架，写完基础实现，开发者只做收尾和修剩下的 bug。

1000 倍是 Amjad Masad 到处讲的北极星。场景是 AI 不光会写代码，还会调度现成的工具和服务：你成了技术负责人，手下一群 AI 实习生随叫随到，要条数据管道，说一句话就行。Catasta 特别强调，**1000 倍的乘数不属于业余玩家，它属于 John Carmack、Jeff Dean 这种级别的工程师**。这些人管过成千上万人的团队，以后底下的组织可以部分换成 AI。

那 10 亿开发者从哪来？Catasta 的答案很接地气。Replit 每月办黑客松，主题大多和 AI 相关，来的人大量都不是职业工程师。拿冠军的经常是 PM，原因有点好笑：PM 的日常工作就是用英语写清楚软件该怎么运作，把他们放到 GPT-4 面前，提示词写得又准又全，Replit 再帮他们把代码拼起来、跑起来、调通，第一次写代码就夺冠。

Athena 那边在验证同一件事。Nathan 教行政助理写软件，跳过 for 循环和语法，直接上平台，先用 GPT-4 拉出骨架，再回 Replit 里迭代，他的口诀是「复制加改造」：找个好模板，fork 过来改成自己的。

Catasta 把 10 亿开发者定义为横向扩展。他说得很清楚，这 10 亿人里 90% 不会去写下一个谷歌，**编程会变成像 Excel 宏一样的基础技能，每个人给自己和朋友造那种永远撑不起一门生意的小工具**。黑客松里有人给朋友聚会写了自动点披萨的 WhatsApp 机器人。他举的旁证很妙：iOS 的快捷指令、表格里的宏、文档工具里冒出的变量功能，全都是编程渗进主流应用的迹象。Catasta 的读法是，人人都在想办法把自己的生活自动化。

投资人 Flo Crivello 有个类比：拿破仑时代，全法国只有他喝得起铝罐装的饮料，现在铝罐用完就扔。Catasta 完全认同这个方向，一次性软件会大量涌现。大型软件依然需要流程、管理和人力，但**让更多人参与创造，会急剧扩大全人类探索好想法的池子**。他的长期愿望是巨型公司变少，中型创业公司变多，更多人有能力去啃硬问题。

## 护城河：键击级数据、250 毫秒和 32k 词表

Nathan 问了个尖锐问题：AI 行业天天争论护城河，Replit 的护城河是什么？

第一个答案是数据，而且 Catasta 现场纠正了主持人。Nathan 说全球只有微软和 Replit 能拿到这种体量的实时用户反馈，Catasta 回应：

> 我们比微软还多。VS Code 的日志粒度远不如我们。

原因很物理：Replit 整个跑在云端，后端记录一切，包括编辑器里的每一次击键和完整编辑历史。VS Code 是本地客户端，微软不敢偷偷记录用户敲的代码，那会变成法务噩梦。Replit 必须记，因为历史回滚和多人协作功能就靠这些数据对账。Catasta 说，全世界的 IDE 里有这种粒度数据的只有两家：谷歌的内部 IDE，和用户规模大得多的 Replit。他迫不及待想拿这些数据训模型。

第二个答案是延迟。Replit 自研模型时定了硬指标：大部分补全要在 200 到 250 毫秒内返回，这是人感知上的「即时」。Copilot 的延迟通常至少 1 秒。代价是 Replit 的补全更短，但用户更喜欢，因为快。

模型本身的故事也值得展开。Replit 开源了基座模型，训练数据用的是许可宽松的 The Stack 数据集；生产环境用的版本在此基础上用 Replit 自家数据继续预训练，性能比基座最高提升 50%。词表特意选了 32k，和第一版 LLaMA 一样大，压缩率略差，每 token 大约对应 3 个字符（GPT-4 的 10 万词表约 4 个字符），换来更快的推理。词表还专门用代码数据训练，写代码时压缩率反而更高。训练找 MosaicML 合作，团队只有两个人，冲刺 10 天就发布了，之前花几周做消融实验，两边的人轮班 24 小时盯着 Weights & Biases 的训练曲线，出问题 MosaicML 的工程师随时上线救火。

开源策略上有几个细节。Replit 本身就是开源社区养大的公司，回馈的决定几乎没经过讨论。他们只训练公开 Repl 和许可宽松的代码，私有仓库碰都不碰；针对训练数据的退出机制当时正在准备上线。Catasta 还提了个更远的想法：如果某个用户的公开代码对模型生成贡献很大，能不能给他分一部分收入？他承认这极难做，常见代码模式到处都是，归因本身接近可解释性级别的难题。必应聊天已经开始在回答里附上参考代码的出处链接，Replit 想跟着行业标准的方向走。

聊到 LangChain 最近在网上挨的骂，Catasta 替它说了句话。框架都有这种生命周期，Django 和 Ruby on Rails 当年挨的骂一模一样。LangChain 最狠的贡献是几乎每篇新论文出来，24 小时内就有实现，社区可以立刻验证论文是真是假，这对整个领域的加速作用被低估了。

端侧推理也在计划内。社区已经有人拿 Replit 开源的 3B 模型，用 ggml 在 MacBook 上跑出接近官网的补全速度。Catasta 说团队正在头脑风暴，要么把小模型推到边缘设备，要么塞进每个容器的限额资源里跑基础补全。接下来还有两个预告：Ghostwriter 会出现在 Replit 的每个角落，帮你处理各种任务；新的开源模型会按半固定的节奏持续放出，社区已经在反向给他们贡献指令微调数据。

## 分歧、安全与账本

整期节目最有价值的部分，是主持人和嘉宾想法不一样的地方。

Nathan 的第一个疑问很实在：一边要多 10 亿开发者，一边说效率提升 10 倍甚至 1000 倍，加起来相当于全球人均拥有超过一个现役程序员的产能，哪来这么多软件需求？Catasta 的回应是把两条曲线分开：横向的 10 亿人做小工具，纵向的千倍效率属于少数顶尖工程师去啃大问题，两个方向同时发生，互不冲突。

关于 AGI 会不会突然砸场子，Catasta 的态度是概率思维。AI 这个领域经历过一轮又一轮的炒作和寒冬，上世纪 60 年代，明斯基觉得找个暑期实习生就能解决计算机视觉，结果花了 60 年。他不愿意预测日期，把概率质量全押在 ADI 上，同时承认如果 AGI 明年就来了，全世界所有公司都会被重塑，到时候适应就行。他还留了一句值得记住的话：**AI 能学会我们今天怎么写代码，想出两年后该怎么写代码的，仍然只能是人**。计算机科学 60 多年的历史就是不断造新抽象层，从打孔卡到汇编到 C 到 Web 框架，每一次范式迁移都是人从今天的痛点里学出来的。

Nathan 还问了 Amjad 那条著名的推文「Replit 是 AGI 的完美基底」。Catasta 给了自己的解读：即便未来真有 AGI，它的行为方式也应该像个好开发者，知道该调用哪些现成的服务、工具和算力，凡事从零写起没有意义。AutoGPT 和 BabyAGI 这类实验至今没成气候，原因就在这里，GPT-4 没法凭空变出智能，它得有地方跑代码、调接口、拿算力，Replit 恰好就是那个地方。

安全话题他讲得很实诚。Replit 生成代码，不生成文本和图像，假新闻、版权图、人脸识别这些最烫手的短期问题恰好都躲开了。团队太小，没有专职红队，主要靠第三方供应商的模型兜底。Nathan 做过一个小实验：5 月他让 Replit 写拒绝服务攻击脚本，它直接写了；8 月再问，它拒绝了。Catasta 解释这些行为变化大多来自第三方模型的更新，Ghostwriter 的聊天功能用的是谷歌和 OpenAI 的模型加自家的提示词工程。他还补了两句大实话：社交媒体火了 15 年，人类到现在都没想明白怎么监管；大家刚从两年多的疫情恐慌里出来，又要掉进 AGI 恐慌，这对谁都没好处。扩大算力这件事拦不住，连创业公司都有资本建超大的 H100 集群了，与其讨论怎么停，不如想清楚事情发生时怎么接得住。

账本问题同样直白。第三方模型按流量计费，重度用户几天就能把订阅费烧穿，OpenAI 自己都在限制 ChatGPT Pro 的 GPT-4 消息条数。好在趋势明确：OpenAI 的 API 价格 18 个月里降了约两个数量级。Catasta 半开玩笑说，现阶段的目标是先学会给用户做有用的 AI 产品，顺便别把自己搞破产。摆在面前的难题是怎么把 AI 功能送给 2000 多万免费用户，他的路线是从自家的代码补全起步，因为模型是自己的、部署效率可控；GPT-4 级别的能力全员免费，短期内想都别想。

## 明天就能用的三件事

听完这期，有三件事读者明天就能动手。

- 去 Replit 上 fork 一个模板跑起来。不用先学语法，用自然语言描述需求，让 AI 生成骨架，报错就点调试让它自己修。给自己写个小工具，比看十篇教程有用。
- 写提示词时套用 PM 的思路。把需求当成写给同事的规格说明：背景、输入、输出、边界情况一条条列清楚。黑客松冠军就是这么提示出来的。
- 选 AI 编码工具时把延迟当硬指标。补全响应超过 1 秒，心流就断了。自部署场景可以试试用 ggml 在本地跑 3B 级别的小模型，一台 MacBook 就能得到接近云端的补全速度。

节目末尾，Catasta 推荐了一家他持续关注的公司：Perplexity AI。理由是它像早期 Replit 一样发版速度快，敢在谷歌统治 20 多年的搜索领域正面进攻，他时不时找 CEO Aravind Srinivas 聊天取经。一家百人公司的 AI 负责人，盯着另一家快速爬升的小公司，这个画面大概就是 2023 年 AI 行业的缩影：牌桌不大，每个人都跑得飞快。