GPT-4栽在一顶破礼帽上，好莱坞编剧罢工的AI条款只谈妥了一半

一顶1920年代的礼帽，帽顶被整个剪掉，剩下一个空心圆筒。帽口朝上放在脚凳上，里面放进一颗黄色垒球。然后拿起帽子，帽口朝下扣在餐桌上，最后打包寄往法国首都。球在哪？

正确答案：还在脚凳上。球在拿起帽子的那一刻就掉出去了。

这道题是好莱坞编剧特雷·科尔默（Trey Kollmer）出给GPT-4的。模型每次都答「餐桌上」。更怪的地方在推理过程：它明明先写了「这顶帽子是个空心圆筒，东西放进去很容易掉出来」，写到下一步，这条信息凭空消失。

这是播客Cognitive Revolution 2023年9月12日一期里的场面。主持人内森·拉本兹（Nathan Labenz）是创业者兼AI投资人，也是AI视频公司Waymark的创始人。嘉宾特雷是编剧工会WGA成员，5月底的第30期里他曾和两位工会同事聊罢工诉求，这一期独自返场，还带来了自己攒了三个月的问题。两人聊了两个多小时，从罢工谈判桌一路聊到英伟达的股价。

罢工谈判：漏洞堵了一半，最要命的那个还在

先交代背景。三个月里有两件大事：演员工会SAG-AFTRA也罢工了；代表各大制片厂的AMPTP在沉默几个月后把编剧请回谈判桌，谈崩了，索性把报价单直接公开。公开本身是战术，赌一部分编剧看了会觉得条件还行，先动摇。特雷说，目前没起作用。

报价单的AI部分有实质内容：AI生成的材料不算「指定创作」，不能当作重写前的初稿，只能当作参考资料。翻译一下。好莱坞的行规里，重写比初稿便宜；电视剧本的「故事」和「剧本」分开付钱。如果AI能出初稿，制片厂就能只付重写费；如果AI能出大纲，编剧的故事费就没了。这两个漏洞，报价单都明确堵上了。

没堵上的是训练数据。制片厂能不能拿编剧的剧本去训练或微调模型，让模型以后自己出剧本？这事还在争，而且有个容易被忽略的死结：编剧的剧本属于「雇佣作品」，版权在制片厂手里。外面那些版权官司就算打赢，也管不到制片厂用自己的素材。所以工会要的是合同层面的保护，跟版权法是两条线。

内森给了一个框架：工会争取的这些保护，在「中等进度」的世界里最有价值。模型进步慢，现有能力不够用，条款无所谓；模型进步快到离谱，抵抗就成了堂吉诃德；只有中间那个世界，条款真的决定饭碗。特雷说工会内部基本按这个分布做策略，还补了一句：他最近评估AI安全类慈善项目，看到的思路几乎一模一样，两个八竿子打不着的领域，前提假设是同一个。

演员那边的诉求跟编剧高度重合：流媒体分成、涨薪、AI保护。AI部分的核心是数字肖像权。最吓人的场景是群演：干一天活拿一天钱，却被要求做全身扫描，之后肖像被永久随意使用。工会要求肖像的任何后续使用都单独谈同意、单独付钱。制片厂让了半步：用你的脸改造或合成新角色，要同意要给钱；拿你的脸去训练模型、做那种谁都不像的合成角色，不用。群演扫描这事双方各执一词，制片厂说答应过只限本片使用，工会说罢工时根本没这条。

长期看，特雷认为防合成角色这场仗更难打，好莱坞玩CGI已经几十年，「每个角色必须真人出演」这条线根本没法划，终结者那种角色怎么算？他借经济学家Tyler Cowen的思路推演：梅丽尔·斯特里普把数字肖像扫进去，一年接三四部片而不用全程进组，头部演员的产能和议价权翻倍，新人入行的门更窄。也可能长出一种行规，谁去扫描谁丢人。

技术追得有多紧？内森创办的Waymark今年早些时候用DALL-E 2加动态处理做了AI短片《霜》，创意总监生成的DALL-E图片已经超过一百万张。续集换用Runway的模型，前后只隔几个月，动作的自然程度差距肉眼可见。

角色一致性的秘密一半靠「原型化」提示词，一半靠剪辑快：观众沉浸在剧情里不会逐帧比对，跟人眼对声画错位的容忍度有半秒左右是一个道理。配音上，ElevenLabs和PlayHT已经支持多语言和情绪指令，换脸视频也到了并排放着分不清真假的临界点。特雷提醒了一个时间刻度：录制这期节目时，Stable Diffusion发布刚满一年零五天。

版权官司：三条战线，一个先例，一个死结

编剧的就业前景跟几桩版权官司缠在一起。特雷听了伯克利版权学者帕梅拉·萨缪尔森（Pamela Samuelson）在西蒙斯研究所的讲座，把针对OpenAI、Meta、Stability等公司的诉讼归纳成三条思路：

• 把版权材料复制到服务器上做训练，复制这个动作本身就可能侵权，哪怕没人看到、没再传播。
• 模型输出跟训练数据太像，或者构成演绎作品，输出本身侵权。
• 删除或篡改版权管理信息。典型如Getty图片的水印，模型学过之后生成的相似图没有水印了。

关键变量是「合理使用」。先例是谷歌图书案：谷歌扫描海量书籍做索引，法院判合理使用，理由两条，一是转换性，用途跟原作完全不同；二是不损害原作市场，索引反而帮书被发现。萨缪尔森认为图像模型这次可能不一样：Stable Diffusion和Midjourney是真的在抢插画师和图库的生意，市场损害这一条很可能成立。

但她对另外两条不看好。她现场放了Stable Diffusion生成的图和训练图对比，两张非常接近，她仍然认为没有法院会判输出构成演绎作品；水印那条她也觉得悬。真正悬而未决的是训练环节：复制这些作品，造出一个能取代原作者的系统，这算什么？她的结论是悬案，可能要等国会立新法。特雷听完的总结是：

「我们拿着一套老法律、老规矩，去套一个完全不同的范式，这本身就显得很疯狂。」

内森补了一个观察：生成式AI同时具备转换性和演绎性，它既触发指控，也自带辩护，用旧框架去套两头都能说通，所以才有得吵。

美国版权局同期发了一份征询意见，34个问题，特雷评价写得相当清楚。几个有意思的：能不能不重新训练就「遗忘」训练数据？数据集要不要留档，方便日后诉讼查验输出跟数据的关联？需不需要新法律？第一个问题问得很实际，法院如果判侵权，总不能把几百亿投资全部推倒重来。而Anthropic那篇研究「哪些训练数据影响模型行为」的论文给出的答案接近于：目前做不到。他们的方法能近似算出影响力最大的数据点，小模型上找到的是字面匹配的关键词，大模型上变成概念层面的匹配，但结果很怪：起决定作用的数据点少得出奇，还常常不是显而易见的那几个。

微调能调出结构，调不出才华

特雷在Waymark的一手经验：用GPT-3的DaVinci模型写30秒广告脚本，微调之后跟少样本提示相比是天壤之别。微调主要解决结构和套路，比如脚本里那种「组合拳」模板，喂够例子，模型就稳定输出这种节奏。广告不需要惊艳，需要合格加抓人，这个它做得到。

内森补了理论支撑，他去年的年度论文之一：研究者先设计了一个把梯度下降写进权重的算法，再去真实训练出的模型里找，真找到了。少样本学习和微调在机制上是同一条连续谱，模型在上下文里看几个例子，跟用这些例子微调权重，干的是非常类似的事。这个结论在小模型上验证过，大概率在前沿模型同样成立。

但内森自己的用例泼了冷水。他用Claude 2写节目开场白，输入是五段过往开场白、本期逐字稿、外加一个他预设的角度。产出永远是一个合格的概述，旁白腔，他们聊了这个、聊了那个。他要的是有观点的综合，把两小时素材提炼出别人没说过的视角，这个从来没得到过，最后都自己重写。

两人讨论下来指向同一点：RLHF把模型往中间拉，而创意工作要的是双峰分布，让一成人疯狂喜欢，不在乎七成人无感。现在的训练奖励的是不得罪人。想逃出中间地带，内森给了一个立刻能用的办法：去设置系统提示词，明确告诉模型你接受挑衅性的、有观点的输出，实测有用，虽然作用有限。

至于怎么跟模型一起写东西，特雷搬了行业里的老办法。美剧《杰茜驾到》以备选笑话闻名，编剧每集带着几百条备选笑话的活页夹去片场，拍摄时换着试，剪辑时淘金。这个「生成加淘金」的流程恰好适合模型：整本剧本地生成再筛，听着就累；拆成层级就可行，先生成20个前提挑几个，再生成10个大纲挑两个，然后逐场生成。命中率过某个阈值，这套流程就成立。

他还给了一个写作行业内部的门道，叫「一个反常的东西」：作品里只允许一个元素出人意料，其余全部按常理演。电影《谎言的诞生》整部片只有一个反常设定，说谎不存在，其余人物全部按真实心理行动。模型现在的毛病是所有token用同一个固定温度采样，该稳的地方乱，该爆的地方平，理想状态是让模型学会自己选温度，先扔出一个意外，再把这个意外圆回来。

科恩兄弟写剧本就是这么干的：两人每15页交接一次，一个负责把故事写进死胡同，另一个负责爬出来。《被解救的姜戈》开场，克里斯托弗·瓦尔兹的角色进酒吧直接开枪杀人，观众一头雾水，几页之后悬赏令出现，一切合理。特雷由此提出一个猜想：模型擅长「从坑里爬出来」式的创作，给它一个反常局面让它自圆其说，可能比让它自己想出那个反常局面更在行。斯坦福那篇「退格键」论文正着做是惩罚出格生成、允许模型按退格键重来；内森设想把符号反过来，奖励有用的出格、标记该出格的时机。这对科研同样成立，因为科学突破按定义就长在分布之外。

顺带两笔。长文本工具Sudowrite因为层级化生成长篇小说的演示，在罢工背景下被编剧网民围攻成头号公敌；Claude的10万token上下文，处理90分钟逐字稿没问题，接近3小时就开始整段整段地漏。内森的判断：长上下文增加的是工作记忆，推理能力并没有跟着涨。

一顶破礼帽和一位修士：模型到底懂不懂

节目后半段进了最长的议题。特雷的立场是别急着否定模型。预测下一个词听起来平庸，其实是极难的任务。Ilya Sutskever举过例子：读一篇推理小说，侦探说「我知道凶手是谁了，凶手是」，要预测空格里的词，靠词频统计没用，得抓住线索、心理和因果。Eliezer Yudkowsky指出，网上存在大质数及其因数的列表，要预测那种列表的下一个token，等于现场解一道极难的数学题。

理论侧的证据也有。Naftali Tishby的信息瓶颈理论里，模型压缩训练数据、与原始输入的互信息趋零的阶段，恰好是开始泛化的阶段；Neel Nanda的grokking（顿悟）研究显示，权重衰减会推着模型从死记硬背转向更深层的结构。更早的还有情感神经元和iGPT：纯字符或纯像素预测训练出的模型，中间层抽一个线性探针出来，就能做情感分类、接近当时最先进的物体识别。

反方代表是Google PaLM 2的产品负责人佩奇·贝利（Paige Bailey），上一期节目里她对模型的推理能力评价很低，理由是稍微改改题目模型就崩，崩了就不算数。内森不同意：能稳定做对常见题，本身就有巨大实用价值，不能因为找得到反例就一笔勾销。他的结论是两个东西同时在发生：推理和综合能力确实存在，但不会被稳定激活，某些输入能让它整个跑偏。

他讲了一个现场实验。朋友家有一位修士亲戚，棕袍凉鞋长胡子，不看新闻不上网。内森让他随便问ChatGPT一个问题，修士问了「本质与存在」的区别。第一轮模型给了概述，修士说我要的是论证；第二轮给了论证，引的是笛卡尔，修士说引错了人，该引托马斯·阿奎那；第三轮点名阿奎那，修士服了。然后那个10岁小孩插进来一句：能让它用比尔·考斯比的段子讲这个吗？模型当场输出一段用果冻布丁讲哲学的单口：本质是你脑子里那个晃晃悠悠、巧克力味的概念，存在是你真把它吃进嘴里尝到的那一刻。这个组合几乎可以肯定不在训练数据里，随机鹦鹉的说法到这一步已经罩不住了。同类证据还有Othello-GPT：只用棋谱坐标训练的模型，内部自己长出了二维棋盘表征，研究者直接改写它的内部表征，它的棋路会跟着发生可预测的变化。

然后是那顶礼帽。内森猜脚凳，答对了，还提前猜中GPT-4会错成哪一个；GPT-4每次都答餐桌。最诡异的是它的思维链：先正确写出「帽顶剪掉了，东西会掉出来」，下一步接着写「你把帽子扣在餐桌上，球留在帽子里跟着落下」。让它逐步描述帽子的形状和朝向，它照样描述完「装不住球」然后忘掉。给它一句模糊反馈，「第一步里是不是有个细节你忘了」，它立刻道歉并改对。内森提到杨立昆发过马克杯和硬币的推文，GPT-3不知道硬币会掉出来，GPT-4知道了，特雷怀疑这类题被单独打过补丁，换个细节就得再打一个。模型拒绝危险问题的机制也类似：某个「模式」被触发就拒绝，加上一串精心挑选的乱码后缀，模式就失灵，实验室自己也说不清内部结构。

内森和朋友格雷厄姆复现一个心智理论基准时，发现了一条更实用的规律。原论文里那些题目设定都很怪，比如橱柜放在爬行空间里。他们把具体名词抽象成变量，甲把乙放进X，成绩反而显著上升。具体的细节在给模型添噪音，抽象化等于把计算步骤省下来留给推理。Anthropic另一篇论文指向同一方向：把问题拆成子问题，逐个详细分析再向上汇总，比单纯思维链更强也更稳，等于把一次前向传播里要跳的坎摊到多次调用里。顺带说，模型实验室的红队精力都在生物风险这类大问题上，礼帽这种边角案例排不上号，普通人拿自己的怪题目去测模型、公开结果，是实打实的贡献。

对抗样本那段的结论也值得记一笔。模型的权重完全暴露，攻击者可以优化出完美骗过它的输入。人类呢？内森的猜测是，如果能拿到人脑的完全访问权限，人脑大概率同样能被黑。我们的鲁棒性只覆盖感官输入这一层，当年传说观众看到银幕上火车进站会夺路而逃，把人骗住从来不需要黑进大脑。

英伟达涨了238%，台积电和三星为什么跑输大盘

特雷带来的问题很扎手。英伟达年初股价143美元，节目播出时485美元，年内涨238%，市值1.2万亿美元，等于一年涨出近一万亿市值。对比：ASML年内涨约40%，市值2700亿；台积电涨25%到30%，市值4450亿；三星涨28%，市值4720亿；同期纳斯达克指数涨35%。台积电和三星连大盘都没跑赢，ASML勉强跟住，英伟达一家涨了快三倍，市值约等于ASML加台积电总和的两倍。

问题在于依赖关系是反着的。英伟达的芯片基本只能在台积电造，台积电的光刻机只能来自ASML。直觉上，三家里最容易被替代的应该是英伟达，软件总比工厂好复制，为什么钱都进了英伟达？

两人过了一遍候选解释。CUDA护城河最常被提，AMD的软件生态出了名的难用，Tiny Corp的乔治·霍兹（George Hotz）团队折腾AMD芯片的过程在网上实时直播战况，反复横跳。但Stability AI的CEO埃马德·莫斯塔克发推说CUDA护城河是海市蜃楼，内森倾向于部分同意，证据是Andrej Karpathy的周末项目：手写C语言库做纯CPU推理，一个周末就把七十亿参数量级模型的生成速度做到可用，他生疏的底层代码还是GPT-4帮着写的。如果模型能把CUDA代码翻译成任何新芯片的代码，护城河的守军就换了人。

另一类解释藏在合同结构里。台积电的工厂是重资产、吃产能的生意，丢掉英伟达这个大客户痛到骨子里；英伟达在加密货币崩盘后核销过一批A100的未来采购，Stratechery聊过这事，说明它手里握着长期采购承诺，H100的定价权可能就是那时候锁下的。台积电真正的独门绝活CoWoS封装，把高带宽内存贴着GPU放，这个短期确实没人接得住。两人最后承认，账暂时算不平，内森把问题抛给了听众。

内森自己交了个底：他这辈子唯一一次个股推荐，就是九个月前跟高中同学的投资小俱乐部一起买了英伟达，赚得很开心。最近他给俱乐部写信说，这票开始有点meme股的意思了，建议往产业链上下游分散一点。至于整条「智能供应链」，从晶圆厂、数据中心、基础模型到应用层，价值最终沉淀在哪，他给出的第一个答案跳出了所有股票：消费者剩余。所有人都能廉价获得专家级能力，这本身就是最大的流向，便宜到一定程度，任何单一环节都截不住它。

明天就能用上的几件事

这一集横跨劳工谈判、版权法、模型科学和资本市场，落到个人手上，有几条明天就能试。

• 给模型点名。要风格就报具体的人，要结构就给范式，「用一个反常设定，其余全部写实」比「写得有趣点」管用得多。修士服气的那个回答，是点名阿奎那之后才出现的，专业知识是提示词的杠杆。
• 去设置系统提示词或自定义指令，写明你接受有观点、挑衅性的输出。RLHF把模型往中间拉，这招能把边界往外推一推。
• 模型推理出错时先做两个动作：把具体名词换成变量，甲、乙、地点X、物体Y；或者把问题拆成子问题分步问再汇总。两个都有实测数据撑腰，后者还有论文背书。
• 用AI写长东西，放弃整稿幻想，改成生成加淘金：20个前提挑3个，10个大纲挑2个，逐场生成，建自己的备选库。这是《杰茜驾到》的编剧们用了几十年的流程，模型只是让它变便宜了。
• 如果你测模型，把怪案例和结果公开。实验室的红队顾不上礼帽和爬行空间，这些边角数据现在只有社区能补。

最后留一个时间刻度：这期节目录制时，Stable Diffusion发布刚满一年零五天。罢工条款、版权诉讼、万亿市值、破礼帽，全都挤在这一年里。模型每一年都会比现在更强，条款和法律追不上的那部分，只能靠使用者自己长出判断力。