800万人围观了一场骂战,Sudowrite创始人把AI写小说这件事讲透了
AI is Supercharging Writers with Sudowrite's Founder, James Yu
Sudowrite 创始人 James Yu 与 Nathan 聊从用 GPT-3 写小说到打造 AI 写作伙伴,以及技术栈开发和外界反弹经历。
2023年5月,Sudowrite联合创始人James Yu在Twitter发了一条9分钟的产品演示视频,展示AI怎么帮人写长篇小说。视频最终触达超过800万人,评论区却变成一场针对他的围剿。彼时好莱坞编剧大罢工正打得凶,他被扣上「抢作家饭碗的AI兄弟」的帽子,一度成了部分网友口中的「作家公敌」。
后续更有意思。这家公司2021年融过一小笔钱,全队7个人,4位开发者都有英语文学学位,从2023年3月开始盈利。那场网暴带来的海量曝光,反而成了盈利的助推器之一。James复盘时说,骂声底下藏着一大批沉默的中间派,他们不转发、不站队,只是默默注册试用,然后自己下判断。
在Nathan Labenz主持的Cognitive Revolution播客里,这位既写代码又写科幻的创始人,把AI写作这件事从技术手感聊到生意账。《纽约时报》和《纽约客》早在2021年就报道过这款产品,比ChatGPT火遍全球早了两年。下面是这一集的干货拆解。
比ChatGPT早两年入场,起点是2000 token时代的「虫洞」
Sudowrite的故事始于2020年底。GPT-3刚发布,还是最原始的DaVinci 1.0,大家拿它玩梗、生成段子。James当时正重度写科幻,他和联合创始人Amit问了自己一个问题:这东西能不能真的帮到创作者?
那个版本的模型,上下文窗口只有2000 token,没有指令微调,只能靠自动补全式的结构去「暗示」。条件差到离谱,他们还是做出了第一个功能,名字叫「虫洞」:光标停住,AI给你看「平行宇宙里另外五个你」可能写出的下一段。
名字起得很讲究。虫洞这个说法从一开始就管理了预期:它可能很野,可能跑偏,未必贴合你的语气,但它可能启发你。产品卖的是「解卡」,写错了也算价值,错误的方向能帮你看清正确的方向长什么样。更反常识的是,GPT-3早期那些胡说八道的幻觉,放进虚构写作里算特性,算不上缺陷,小说本来就要编造不存在的东西。
早期调模型的手法也朴素:大量few-shot,拿自己的故事当示例。他们有个描写工具,高亮文中一样东西,AI给出丰富的描写。第一版的示例全来自James自己的小说,所以那工具最初更像「James会怎么描写这玩意」。好在工具同时会读用户的手稿,等于先把AI领进某个文学潜空间,再让它干活。他和Amit还拉着写作小组做了大量提示词评估,对各种类型的小说盲测打分,这套习惯保留到今天。
作家最缺的,是一个不评判你的读者
Sudowrite官网首页那行字,Nathan盯着看了很久。
不评判你、永远在线、愿意读你30稿的AI写作搭档,你一直想要的那一个。
这句话功利性为零。换个平庸的写法,可以是「写出最好的文案,立即购买」。他们讲的却是作者的情感需求,而且这个定位从第一天延续至今。
小说家和写企业邮件的上班族处境完全两样。绝大多数小说作者是独立写作者,没有编剧室,没有同事,写作小组的反馈也是异步的。大部分时间,只有你、电脑、键盘和你的大脑。早期用户访谈里,有人告诉James,这工具帮我解了卡,但更重要的另一件事,它让我不那么孤独了。
有用户说,连伴侣都不读自己的手稿了,也不好意思把初稿拿给写作小组看,但面对AI没有任何心理负担。用户开始把AI拟人化,觉得它真的在读自己的东西。Nathan听了想起Replika的CEO Eugenia说过的一句话:我们可能做不出会说话的AI,但做得出会听的AI。
这类工具真正的护城河,可能不在生成质量,在于接住了写作者最脆弱时段的情绪。
把小说拆成层级,像程序员用IDE一样写作
真正的解锁发生在GPT-4之后。模型第一次能从5万英尺高空理解一个故事:从局部段落,到逐场景,再到整个故事弧线。Sudowrite据此做了新的写作模式Story Engine。入口是个叫brain dump的输入框,随便贴什么都行,手稿碎片、维基百科条目、灵感便签,AI帮你整理成梗概和大纲,再一层层往下:章节、场景、谁在场、什么氛围。
为什么执着于层级?Claude的上下文窗口有10万token,听着很美,但每次生成都塞进整本小说,账算不过来。Nathan估算,真塞满的话一次点击可能烧掉1美元,等于用推土机砸一颗钉子。更好的做法是让作者在正确的时机,把正确颗粒度的上下文喂给AI。人脑同样装不下一整本小说,作家本来就靠分层记忆工作,AI照着人的方式来就行。
James给这套东西的内部代号,是「讲故事的IDE」。程序员有IDE几十年了,小说家手里只有模板和Excel表格。语言模型第一次能「看穿」每个场景里到底发生了什么,这是以前所有工具做不到的。
衡量标准很具体。早期DaVinci 1.0像台老虎机,50次里出1次能用的好东西。现在的目标是把命中率做到二分之一。产品哲学他用了「半人马」来概括:半人半AI协作,但人头必须在马身前面。Twitter上那些「AI包办一切」的演示,在他看来都跑偏了,包办一切就失去了写作本身的意义。
难点依然在上下文。角色在第六章死了,第八章就不该再出场,这类约束怎么让AI记住?他们的思路是让AI理解整个时间线和世界状态,再由一个决策器挑出当前任务最相关的信息,一部分靠启发式规则,一部分靠向量检索。James承认,这套系统还在V1阶段。
模型是不同的笔,这些调教技巧明天就能抄
James把各家模型比作不同风格的笔。GPT-4守规则、一致性强,但文风像C-3PO,一板一眼,写创意散文一般;Anthropic的Claude创意写得好,守规则又差一截。他们至今还在混用即将退役的DaVinci老模型,因为RLHF把毛边磨平的同时,也磨掉了野性,某些场景老模型反而好用。他们今年还打算探索开源模型和微调,毕竟OpenAI在向企业需求倾斜,创意散文的毛边问题没人管。
具体技巧,这一段全是能直接抄的干货:
- 风格描述放提示词最后。LLM读长提示词会忽略中间,跟人一样。最重要的信息放开头和结尾,尤其结尾。想要文风,就在最后再强调一次「用某某风格写」。
- 小心粉红大象综合征。你写「不要太俗套」,它反而更俗套。不如给几条不俗套的示例或引文,把它带进那个潜空间。
- 建一个提示词表格。记录哪句措辞有效、哪句让它变差,持续迭代。James预测,「打理一片提示词花园」会成为写作者的新日常,跟打理手艺一样。
- 温度保持偏高。创意写作需要出格的想法,幻觉在这个领域是礼物。但参数互相牵连,调低温度可能带来重复,又得去动频率惩罚。改一个参数之前,先想清楚会不会弄坏另一个。
- 套件拼装(kit bashing)。用两个模型各生成一版,中间开一列,像拼模型一样从两版里各摘几段拼贴。这是作者们自己发明的玩法。
Sudowrite还有个「Match my style」功能,上传你写的一整场戏,它生成一段提示词,把GPT-4带进接近你文风的潜空间。原理是GPT读过海量文学评论,懂「评论语言」和「散文本身」之间的配对。Nathan自己写播客开场稿的路子类似:找5篇自己满意的旧稿做示例,用Claude 2跑,因为转写太长只有它装得下,超过一个半小时就开始丢线索。
命中率预期也要现实。二分之一是Sudowrite内部的金标准,即作者会采用一半的输出。个人临时手写的提示词,命中率低很正常,迭代到位才有复利。
一场网暴,把这家7人公司骂到了盈利
回到5月那条视频。James看了后台数据,99%的观看者只看了前5秒,而那5秒基本没有实质内容。真正的引爆机制是转发和引用:几个大号的转述定了调,扣帽子的人蜂拥而入。他成了「AI兄弟来抢写作工作了」的海报人物,想逐条回复,根本回不过来。
他的复盘很坦诚。Twitter可能本来就不适合发这类产品发布。如果重来,他会让客户来讲自己怎么把产品用进工作流,比创始人演示更有说服力,也更有人味。
因为另一面的声音被淹没了。Sudowrite跟几百位小说家紧密合作,有人拿到新功能时激动得哭了。他们的独立作者读者知道他们在用AI辅助,反应是「一年从10本写到20本,给我更多」。使用光谱也极宽:有人重度生成整场戏,有人只拿它做头脑风暴,一个字都不采用。James拿Photoshop类比,当年数字艺术也被围攻过,如今没人质疑它是不是艺术。他们每周还给作者开课,一半教工具,一半教怎么成为更好的创意写作者。
录制当天,恰好传来编剧工会(WGA)和好莱坞制片厂达成协议的消息。协议保护作家的合同权利,制片厂不能强迫作家使用AI,同时保留作家自己用AI的自由。James公开支持了协议中的AI条款。报酬问题该跟工具问题分开谈,作家理应获得公平报酬,这跟他们用什么笔没有关系。
网暴的实际影响呢?大量新用户涌入,James说这甚至是公司盈利的原因之一。骂声底下总有一大批沉默的人,不转发、不评论,自己去试用,自己下判断。他还提到一个更冷的现象:作者圈里出现了猎巫,有人专门扒哪些作者偷偷用AI。他认为这只是过渡状态。
给同行的建议有两条:看到扣帽子的机会,忍住别扣;遇到愿意认真讨论的人,珍惜。
AI创业的账,和明天就能用的清单
生意这部分,James的观点相当清醒。AI公司首先是创业公司,分发、流失率、定价,老三样照样管用。从Twitter演示到盈利生意之间隔着一条鸿沟,别指望往产品里撒一把AI就起飞。
成本结构是AI应用独有的坑。他打了个比方:相当于你的数据库每存一行要花30美分,每次更新都花钱。上下文窗口给多少、试用用户给几次推理,都得精打细算。Sudowrite选了苹果式路线:给你最好的模型,收更多的钱。他建议创业者先想清楚自己的哲学,用最先进的模型、走量、还是让用户自带key,这决定了你的受众。他们偏向专业写作者,按价值收费更容易。
节目里Nathan抛出一个「AI捆绑包」的设想:每月100美元,打包1000个AI应用,每个应用按人头分得10美分。如果有100万订户,每家每年就有100万美元保底收入,超出额度再向上销售。James很感兴趣,当场追问起分成细节。两人还畅想了「用OpenAI账号登录」的世界:你的智能、你的提示词库、你的设置跟着你走遍所有应用。协调成本是最大的坎,最有可能推动这件事的还是OpenAI自己。Sam Altman那句话值得记下:大家以为自己想把应用装进ChatGPT,其实想要的是把ChatGPT装进自己的应用。
聊到创作的未来,James的判断相当克制。眼下Sudowrite服务的是大写的W作家,职业的或自我认定的写作者;中期看,这些模型让从没想过写小说的人也能完成一本,过程中还顺手升级了手艺。他七岁的儿子出生在一个AI讲故事属于默认设置的世界里,跟AI的关系里没有敌意,只有「也许电脑能帮我把想法展开」。他自己给儿子办了场塞尔达主题生日会,Midjourney加Pika Labs做画面和动效,ChatGPT一口气生成上百条主题寻宝线索,AI语音的塞尔达在跟孩子们说话。这种只为十几个孩子服务的微型媒体,不追求传播,以前根本做不出来。至于完全由AI生成的电影,他认为会是一条平行赛道,但人类创作的内容依然稀缺,因为大家终究需要围着饮水机聊同一部作品。顺带一提,这几年图书销量一直在涨,TikTok没能杀死阅读。产品层面,多模态他们不打算重度做,远期可能把Story Engine做成别的应用的故事后端,比如接Midjourney做分镜。他还想过一个点子:戴着耳机在旧金山溜达两小时,对着空气把故事讲完,回家就有一份整理好的大纲。
最后把这一集压成一张明天就能用的清单:
- 写提示词时,把风格要求放在最后一句,开头结尾放最重要的信息,中间随便它忽略。
- 戒掉「不要太俗套」这类否定句,改喂几条你认可的好示例。
- 建一个提示词表格,每次记下措辞和效果,迭代出你自己的提示词花园。
- 长文开工前,先让AI帮你把想法整理成三层:全局概要、章节级、场景级,写到哪层喂哪层,别把全文塞进去。
- 把预期校准到二分之一:AI输出一半能用就算达标,它负责草稿和启发,你负责当那个头在马前面的半人马。
James Yu那句被骂声淹没的话,值得放在最后:他们跟几百位小说家一起做这个产品,有人拿到手时哭了。工具的价值,最终由用它的人说了算。
In this episode, Nathan is joined by James Yu, Founder of Sudowrite, an AI writing tool.They discuss how James started Sudowrite after using GPT-3 for his own fiction writing, how Sudowrite is able to be a supportive writing partner, and Yu's experience developing its tech stack and working through the backlash he's received. f you're looking for an ERP platform, check out our sponsor, NetSuite: http://netsuite.com/cognitive
Subscribe to the show Substack to join future conversations and submit questions to upcoming guests! https://cognitiverevolution.substack.com/
We're hiring across the board at Turpentine and for Erik's personal team on other projects he's incubating. He's hiring a Chief of Staff, EA, Head of Special Projects, Investment Associate, and more. For a list of JDs, check out: eriktorenberg.com.
SPONSORS: Shopify | NetSuite | Omneky
Shopify is the global commerce platform that helps you sell at every stage of your business. Shopify powers 10% of ALL eCommerce in the US. And Shopify's the global force behind Allbirds, Rothy's, and Brooklinen, and 1,000,000s of other entrepreneurs across 175 countries.From their all-in-one e-commerce platform, to their in-person POS system – wherever and whatever you're selling, Shopify's got you covered. With free Shopify Magic, sell more with less effort by whipping up captivating content that converts – from blog posts to product descriptions using AI. Sign up for $1/month trial period: https://shopify.com/cognitive
NetSuite has 25 years of providing financial software for all your business needs. More than 36,000 businesses have already upgraded to NetSuite by Oracle, gaining visibility and control over their financials, inventory, HR, eCommerce, and more. If you're looking for an ERP platform ✅ head to NetSuite: http://netsuite.com/cognitive and download your own customized KPI checklist.
Omneky is an omnichannel creative generation platform that lets you launch hundreds of thousands of ad iterations that actually work customized across all platforms, with a click of a button. Omneky combines generative AI and real-time advertising data. Mention "Cog Rev" for 10% off.
TIMESTAMPS:
(00:00:00) - Episode Preview
(00:04:28)– How James started using GPT-3 for fiction writing in early beta
(00:08:47) - Using few-shot learning to get good results from early GPT-3
(00:10:25) – Focusing messaging on being a supportive AI writing partner
(00:12:08) – Helping fiction writers feel less lonely through pseudo-conversations with AI
(00:16:01) - Sponsors: Netsuite | Omneky
(00:17:22) - Evolving from paragraph-level assistance to full story understanding
(00:20:19) - Building the product for centaurs: half Human, half AI
(00:32:15) - Using multiple models together to "kitbash" the best outputs
(00:39:21) - Iterating on prompts over time to get a customized "garden"
(00:45:18) - Keeping temperature high for creative writing, but avoiding cliches
(00:54:21) - Separate paths for professional writers vs casual creators
(00:57:30) – The continued role of human-centric art and culture
(01:00:10) - The potential for automation to replace repetitive jobs
(01:07:48) - Yu’s experience launching an AI writing tool and the backlash he received
(01:16:24). - Advice for future AI product launches to avoid or minimize backlash
(01:18:25) - Focusing on delivering value to customers during controversy
(01:28:44) - The idea of an "AI bundle" to reduce churn and customer acquisition costs
(01:42:06) - Recommendations for underrated AI apps - Claude, Pika, Midjourney
The Cognitive Revolution is brought to you by the Turpentine Media network.
Producer: Vivian Meng
Executive Producers: Amelia Salyers, and Erik Torenberg
Editor: Graham Bessellieu
For inquiries about guests or sponsoring the podcast, please email vivian@turpentine.co
本集资源与出处
- 视频在 YouTube 收看
- 音频节目 MP3 直链来自官方播客 RSS
- 订阅Apple Podcasts
- 官网节目官方页面
- 文本精读 Markdown 版便于引用与 AI 读取


