GPT-4当老师，3.5当学生：成本砍九成的微调实战，和一个没人牵头的AI全家桶

一次调用三十多美分，要等六十到九十秒；换成微调过的GPT-3.5,成本降到原来的十分之一左右，响应常常不到十秒。模型没换新的，玩法变了：让GPT-4先把解题过程一步步写出来，再把过程连同答案一起，喂给3.5去学。

这是9月26日Cognitive Revolution播客的内容。主持人Nathan Labenz是视频创作公司Waymark的创始人，产品帮小企业做营销视频，输入一句需求，二十到三十秒出一条带脚本、配图和配音的成片，他一年前还参与过GPT-4的红队测试。联合主持Eric Torenberg是投资人。这一期聊了三件事：OpenAI新开放的3.5微调好不好用，哪些该加速、哪些该踩刹车，还有一个听起来很美、至今没人牵头的AI服务打包订阅。

把GPT-4的草稿纸，喂给GPT-3.5

先说他为什么放着Llama 2不用，转头去做3.5微调。Nathan的账很实在：就算把Llama 2跑通了，后面还有一堆麻烦，模型放哪，能扛多少并发，要不要自动扩缩容，方案有，但都不成熟。OpenAI这边，微调完的模型直接上线，速率限制和普通模型一样，开发团队拿到的就是个即插即用的替换，改一个模型ID的事。

这次微调主打对话格式：系统消息定角色和任务，再配几组用户与助手的往返示例，填进去就能开训，跟上一代微调流程差不多顺手。

Waymark的产品已经能用，但有毛病：脚本常常不够好，配图偶尔选得离谱，配音和画面节奏有时对不上。Nathan想用微调把这些磨平。

第一轮按老办法，只喂输入输出对，几百条数据，他们的数据集规模一直在一百到一千条脚本之间。结果不行，质量就是上不去。

他出去走了圈，想明白一件事：GPT-4加两个示例就能把任务做得不错，那缺的恐怕另有东西，数据量还在其次。他决定让GPT-4先分析任务，把推理过程一步步写出来，经典的思维链，然后把「输入、分析、推理、拆解、策略、结果」整个链条拿去微调3.5。

有意思的地方来了。思维链对GPT-4自己的输出质量几乎没提升，毕竟它本来就会做；但拿这套带推理过程的数据去训练3.5,效果好了一大截。相当于学霸做题，答案本身没变，把草稿纸上的演算步骤一起给了学渣，学渣就开窍了。

账算下来很清楚。GPT-4那套提示词，模板说明约一千词，加两个示例各约两千token,再留三千token给输出，基本顶满八千的上下文窗口。一次三十到三十五美分，等六十到九十秒，生产环境里又贵又慢。

微调后的3.5,上下文上限四千，一万六的版本在路上，示例直接砍掉，token用量减半再少，成本降到原来的十分之一左右。延迟经常低于十秒，慢的时候也就二十来秒，3.5最慢的一次，大约等于GPT-4最快的一次。微调本身只要几分钟，训练完几秒内就能调用。

还有个细节。Waymark过去的人工数据集里没有推理过程，从来没人写视频脚本前会先写三段思路，那些东西全在人的脑子里。Nathan干脆让GPT-4直接生成带思维链的完整样本拿来训练，第一版效果就跟人工数据差不多。只要手头有一个在GPT-4上跑得通的提示词，就能批量造出带推理过程的训练数据，再去微调小模型，这个循环以后会到处都是。

合成数据的另一层用处是干净。上一期嘉宾、卡内基梅隆教授Zico Kolter和研究者Andy Zou聊过一个观点：模型容易被越狱，根源是预训练数据里全是互联网上的乌七八糟，现在只能靠后期对齐去盖。他们的建议是从源头少喂脏东西。Nathan这次的经历等于给这个思路做了个小规模验证：至少在垂直场景，模型「吃什么」已经完全可控。

Athena那边也有现实考虑。客户的行政助理在提示词里可能带敏感信息，团队不是数据脱敏专家，不敢拿客户数据去训练。Nathan倾向定一条规矩：客户数据一律不碰，只用「长得像客户数据」的合成数据。

但他留了个心眼。最近有研究显示，模型见过极少的样本、有时低到一条，就能记住某段文本。电话号码、价格这类显性信息好清洗，概念性的东西难说。他举了工艺化学的例子：药企实验室笔记本里记着升温多快、试剂怎么慢慢加，单页看平平无奇，攒起来就是核心诀窍。这种东西进了模型，可能比锁在笔记本里还危险，模型能通读所有笔记本，看出任何一个人都看不出的门道。OpenAI最近反复强调「我们不用你的数据训练」，大概就是这个顾虑的镜像。

工具他用了HumanLoop,跟踪每一轮训练、标注错误、叠加修正，下一批数据带着修正再练，性能一层层往上抬。Waymark的模型接下来几周还要再迭代十轮左右。顺带一句，他觉得做视频脚本这个活，GPT-4加微调后的3.5已经够用，未必等得到GPT-5出场的机会。

副驾驶和代驾，是两种生意

Nathan把当下的AI用法分成两种，第三种在路上。

第一种，副驾驶。人是主驾驶，AI帮着干杂活。过去几周他写代码几乎不动手了，拿着现成代码和文档去找GPT-4,说清楚要什么，一次改一段，碰上报错就原样贴回去，常常几句就修好。他自评是好几倍的提速，卡壳少了，低级错误也少了，因为AI基本不犯拼写这种蠢错。

第二种，代驾，这个词借自Athena。核心区别就一条：你不再打算逐条检查它干的每件事。他常举的例子是筛简历：收到一千份，没人读得完，先花读五十到一百份的功夫验证提示词靠不靠谱，然后放手让它把后八成和前两成切开，人只看前两成。时间省九成，关键决策还是人做，但底下那八百份，他真的不看。

Rachel Woods给过一个三层分法，好记：必须做完就行的活，最先交给AI;做到「够用」的活，看情况；洞察和战略这种「出色」级的活，别外包，最多让AI陪着出出主意，好坏还是你判断。

夹在中间的第三种是智能体，理想状态是实时派活、不用搭复杂的脚手架、也不用全程盯着。Nathan把它看成从副驾驶通往代驾的桥。

然后他讲了个有点扎心的事。朋友的朋友来问法律问题，他自认没资格回答，但自认有资格干另一件事。

「我真的没资格回答这个问题。但我有资格把它输进ChatGPT。」

那个原本可能打给律师的电话，最后没打。他拿到了足够的信息，还判断出这位朋友该换个律师。这算谁的副驾驶？算他的，但它实实在在替代了一次律师咨询。乐观的看法是，这通电话本来也不会打，蛋糕是纯增量。他自己审合同也是这个路数：协议同时丢给Claude和GPT-4,两个都说没问题，他就签字。

所以别急着说AI只补短板、不抢饭碗。Nathan的说法很直接：到现在还否认替代效应在发生，属于把头埋进沙子。律师、医生那些本来会打出去、按小时计费的电话，确实有一批不再打了。

Eric补充了另一面的声音。他刚录过Sam Lessin和Seth Rosenberg的辩论，两人最后的共识是成本暴降会刺激需求，就业没那么悲观。Nathan回了他自己那条推文的意思：这话跟当年失业的农民说试试。总需求在涨，和具体某个人丢掉饭碗，可以同时成立。

顺带一个数：OpenAI 2022全年收入两千多万美元，如今年化跑到了十亿，九个月涨了十五到二十倍。按3.5每百万token两美元的零售价粗算，每月八千万美元对应大约四十万亿token,摊到全人类头上，每人每月五千token。麻烦是价格一直在崩，有的档位一年砍掉98%,市场规模预测直接成了玄学，开发者大会大概率又有新低价。这个增速，比Nathan当初的预期还快，他可是亲眼见过GPT-4内部能力的人。

应用踩油门，GPT-5踩刹车

Nathan的立场拆开看很清楚：3.5微调这一层的应用，全力加速；GPT-5这个量级的前沿模型，慢一点。

他担心的东西很具体。到GPT-4为止，基本可以放心它设计不出病原体；GPT-5很可能就有这个能力了。Anthropic在参议院作证时提过，他们和一线生物安全专家(包括MIT教授)评估过：语言模型目前还做不到造病原体的全部步骤，但能帮你把步骤想明白。麻烦在于，这些知识已经在模型肚子里了，因为它什么都学过；靠对齐压住的拒绝行为，万能越狱一出来就破防，开源模型更是谁都能把「拒绝」这层皮扒掉，然后一传十、十传百，失控是链式的。

头部实验室的立场他也复述了一遍：比GPT-4强的系统该接受特别审查，包括第三方审计和红队。许可制的讨论常被歪曲成「以后笔记本上啥都干不了」，人家的方案只管比GPT-4强的，而且是个滑动标尺，GPT-5要是安全，门槛就往后挪。

Nathan自己的补充是，合成数据和数据清洗这两样新工具需要时间成熟，别急着用更大的原始算力硬堆。理想状态是训练前就知道数据集里有什么、没有什么。OpenAI看起来想走这条路，Anthropic铁了心要走，DeepMind态度不明，但AlphaFold说明他们懂科学研究的分量。最大的变数是Meta,传闻在训练一个GPT-4级别的模型然后开源，谁也拦不住。到时候看它有没有过滤数据集，就知道这家公司怎么想了。

他还提了个设计思路：与其训练完再贴封条，不如从数据层面造出「不懂生物」的语言模型，分「生物感知」和「非生物感知」两档来管。代价小到几乎可以忽略，顶多几个生物学家少查到点资料，其他所有人的使用体验一点不受影响。

一百美元的AI全家桶，为什么没人做

下半场Nathan抛了个商业构想。起因是他自己的账单：ChatGPT每月20美元，企业版60,是他见过最高的AI平台定价；Windows Copilot 30,Google Duet 30,Perplexity Pro 20,Claude Pro 20,GitHub Copilot个人10、公司代付19,Replit Ghostwriter每席位10。这还只是他每周真在用的头一批，去掉企业版、只算Windows和Google二选一，也已经一百一十美元往上。

往长尾里看更吓人：图像有DALL-E、MidJourney、Playground、Lexica、Stable Diffusion五家；语音他开着WellSaid、PlayHT、ElevenLabs三个账号；创作工具Waymark、Gamma、Tome、Jasper清一色20美元起的月费；Khan Academy的家教他订了又退，毕竟没人天天需要代数辅导。他估了下，把偶尔用得上的全订齐得五百美元一个月，其中八九成单订都不值。

供给侧同样拧巴。Waymark服务一个随机新访客，各路AI服务加起来成本约15美分，而最低订阅档普遍10到30美元。算下来，得有一个愿意付30美元的人，才盖得住200个白嫖试用的。企业客户，比如Spectrum、Fox、Gray TV这些卖视频广告的公司，留存很好；散客却是典型的「生成、下载、退订」，人家从头到尾就没打算续。

于是他设想一个有线电视式的打包：每月一百美元，编辑精选一百个、将来上千个AI应用，全部给基础额度，重度用户再升舱。他给Waymark的定位很谦虚：打包里的ESPN Classic,当不了ESPN,但总有人隔三差五需要做条视频。

账也算过：打包价一百美元，Waymark哪怕只分千分之一，每个订户十美分，打包每卖出一百万份，Waymark一年多一百万美元进账,还触达了一批永远转化不了的轻度用户，再也不用逼着每个访客订阅。美国有线电视订阅还有大约五千万户，百万级的AI全家桶根本不算大；做到一千万订户时，单个应用的分成未必按比例涨，更可能是应用从一千个扩到两千个，大家分摊。

谁来牵头？OpenAI可以定规则，按规模分档、统一百分比、要么接受要么出局，省去跟一千个应用挨个谈判；或者来个Wirecutter式的中立评测机构，只管筛选背书。

Eric泼了冷水，泼得有理有据。他先搬出优步和Lyft:两家产品几乎一样，靠风投资金互相补贴烧钱，合并本是最优解。他问过优步前首席业务官Emil Michael,对方说真推动过收购，Travis Kalanick一句「我们必须弄死他们」，Lyft那边回一句「我们恨优步」，就没了。商业世界到头来经常不讲理性,人人揣着统治市场的梦，谁肯安心当包里一个频道？

第二个顾虑是SaaS行业的老经验。Ben Thompson写过很多讲捆绑经济的文章，大家一直低估捆绑的威力，可SaaS行业至今没跑出一个通行的大包，软件公司都想直接握住客户关系，把它当跳板扩品类，不肯被中间商架起来。而且AI产品的魔力恰好反噬留存：零学习成本意味着零迁移成本，「我很快能从你这拿到价值，也很快能从别处拿到」，用户根本来不及对产品产生感情。Nathan自己也承认，Waymark想留住大客户的账单关系，巴不得甩掉散客的。

直连消费者这条路，他认可只对少数巨头有效：内容行业当年人人加Plus,AI行业如今人人加Pro,这是个幂律游戏，迪士尼那种体量才压得住场子，CNN Plus直接扑街，Discovery Plus他也没订过。多数应用，迟早得找别的分法。

Nathan的反驳落在时代背景上：现在几家前沿公司关系微妙地好，有前沿模型论坛这种协作组织，论文照发，OpenAI章程里甚至写着，若有可信机构逼近AGI,选择合作而非竞赛。年初谷歌为了抢在微软Bing发布会前一天出镜，仓促演示当场翻车，这种闹剧谁都不想再来一遍，更别提GPT-5之后的年代。假如有个打包协议让大家不必为每个订户刺刀见红，发布早晚都无所谓，反正新应用上线只会让整个包更值钱，这比内容行业当年的厮杀多了几分合作的土壤。

他也给了个退一步的版本：学Sling TV,橙包蓝包各成一派。以后可能是OpenAI加微软一个包，Anthropic加谷歌一个包，小应用站队入伙。代价是「入我包就得用我的模型」，这就没那么美好了。

最后他自嘲了一句资本市场老话：市场不理性的时间，可以比你撑得住的时间更长，公司也一样。但如果唯一的障碍只是大家不理性，那这事就还有戏。

明天就能用的四件事

• 手上有个在GPT-4上跑得通、但太贵太慢的提示词，别干等新模型。让GPT-4先输出思维链再给答案，拿几百条「推理加结果」的样本去微调3.5。哪怕思维链没让GPT-4变得更好，训练小模型时它也值回票价：成本降九成，延迟从一分多钟压到十秒上下，微调本身几分钟搞定。
• 把手头的AI任务按Rachel Woods的三层分一遍。「做完就行」的活最先交给AI自动化，比如筛简历先切掉后八成；洞察和战略留在自己手里，顶多让AI陪跑。判断标准就一条：你愿不愿意放弃逐条检查。愿意，才配叫代驾。
• 清点一下你的AI订阅。把每周真用的和偶尔摸一把的分成两列，后者加起来大概率好几百美元，单订全都不值。偶尔用的先用免费额度顶着，打包订阅真出现的那天，再一键全要。
• 别拿客户数据直接去训练模型。显性信息好脱敏，概念性的诀窍未必洗得掉，有研究显示一条样本就足以让模型记住一段文本。用「灵感来自客户数据」的合成数据，是更稳妥的折中。