No. 98·精读

纽约时报诉OpenAI:模型是烤好的蛋糕,官司大概率切出中间方案

NYTimes vs OpenAI: Generative AI and the Law with Cecilia Ziniti, Founder and CEO of GC AI

科技律师 Cecilia Ziniti 与 Nathan 谈美国版权法、合理使用及 OpenAI 对 ChatGPT 转化性的辩护。

节目音频00:00 / 1:30:48
中文精读由 AI 基于原始访谈改写,非官方翻译,可能存在偏差或错误;表述以原节目为准。

2023年12月27日,《纽约时报》起诉OpenAI和微软,诉状里有一条要求听着很科幻:销毁用侵权内容训练出来的模型。换句话说,ChatGPT本身可能被判“死刑”。

法院真会下令销毁一个几亿人在用的产品吗?这期Cognitive Revolution的嘉宾、科技律师Cecilia Ziniti给了个冷静的判断:基本不可能,猫已经放出袋子了。

这个判断有分量,她的履历摆在那里:职业生涯第一份法律工作在2000年代初的雅虎,靠公司股票付完法学院学费,亲历过雅虎诉谷歌的赞助商搜索专利案;之后在亚马逊Alexa团队做了近四年法务,当过Replit的首席法务官,现在创办GC AI,给公司法务做AI助手。她写的生成式AI法律科普在推特上流传很广。主持人Nathan Labenz自称法律小白,带着一堆问题来上课,听众跟着沾光。

整期对话从宪法第一条一路讲到GPT的输出过滤器,下面按这场官司的逻辑拆开讲。

版权写在宪法第一条,硅谷和好莱坞都从这来

先补一个多数人不知道的事实:知识产权写在美国宪法第一条第八款里,大意是,为促进科学和实用技艺的进步,国会有权保障作者和发明人在有限期限内拥有专有权。专利局、商标局都从这一条长出来。Ziniti的原话更直接:美国强大的知识产权保护体系,成就了好莱坞,也成就了硅谷。

对比一组数据:1980年的《财富》大公司榜单前20名里,没有一家科技公司。今天市值最高的几家公司,核心资产几乎全是软件、品牌和数据,全是摸不着的东西。

知识产权分四类:专利、商标、版权、商业秘密。可口可乐配方是商业秘密的经典案例,据说全世界只有两个人知道配方,而且不能同乘一架飞机。

专利和版权的获得方式完全不同。专利要走正式申请,写清“权利要求”,接受审查员反复质询。版权自动产生,作品固定到载体上的那一刻,版权就归你了。给自家孩子写首诗,落笔即版权。凭记忆默写泰勒·斯威夫特的歌词?不行,版权在她手里。把她的歌改成唱薯片的?恭喜,新版权归你。

谷歌握着Transformer的专利,却按兵不动

一个耐人寻味的事实:Transformer架构的专利,据Ziniti查证,握在谷歌手里。软件专利在Alice案系列判决后收窄过,但有具体结果、有具体实现方式的软件流程仍然可以申请。

谷歌为什么不起诉?她给了三层解释。第一,谷歌是平台,希望所有人都在上面开发,专利策略以防御为主。第二,专利战是消耗战,Sonos告谷歌的专利官司打了七八年,谷歌的专利池足够反诉到对方怀疑人生。第三,公关灾难。ChatGPT发布时谷歌内部拉响过“红色警报”,如果它转头用专利打OpenAI,新闻标题大概率是“垂暮的老牌巨头用法律手段扼杀创新”。

还有个业内公开的秘密:每一台安卓手机,都要向微软交大约10美元的专利费。微软在文件系统上的专利太深,当年专利大战打出的和解就是按台付费,三星们把这笔钱算进物料成本,多数用户毫不知情。

专利战里还有个关键词:绕开设计。专利的权利要求写得极细,第一步做什么第二步做什么,少做一步就可能不侵权。雅虎当年收购Overture,握着“赞助商搜索”专利,这几乎就是谷歌的整个商业模式。谷歌的辩护是:排名由“多个因素”决定,出价只是其中之一,还看相关性、看品牌。案子最后和解。Ziniti当时在雅虎法务部,旁听过几次听证。她说专利诉讼有个环节叫权利要求解释,双方逐词争论每个术语的定义,昂贵、漫长、结果不可预测,这是所有知识产权官司的共同底色。

合理使用四要素,一场出了名的模糊官司

版权圈有个经典比喻:版权是一捆木棍。一部电影的版权可以无限拆分,飞机上放映一份、流媒体一份、有线电视一份、意大利地区一份。Netflix养着庞大的授权部门专门写支票,好莱坞的商务法务团队整天琢磨怎么切分这些木棍。

木棍不是无限的,最大的限制叫合理使用。Ziniti纠正了一个常见误解:合理使用严格说连抗辩都算不上,它压根在版权的覆盖范围之外。实际操作中当然是被诉之后再主张,但法理上,你的专有权管不到这种使用。

判断靠四要素平衡测试:

  • 用途和性质:是否具有转换性,是否营利,这是科技案件里争夺最激烈的一条。
  • 被用作品的性质:是创意作品,还是电话簿。
  • 使用的量和实质性:是整篇搬运,还是引用片段。
  • 对原作市场的影响:是替代品,还是互补品。

法条原文写的是“可以考量这些因素”,意味着还有别的因素可以加进来。版权法因此出了名地灰。Ziniti在法学院学到的对比是税法:应缴多少写得清清楚楚,版权没有这种清晰度,因为它管的是创意表达。

电话簿案例值得单独记。Feist诉Rural Telephone一路打到最高法院,结论是:版权保护创造力,不保护劳动。电话簿按姓名排序,排列方式就那么几种,不构成创意,随便抄。这条判例也是LinkedIn起诉爬虫公司屡屡碰壁的原因之一,事实本身没有版权,你叫什么、头衔是什么,谁都可以记录。

还有个半开玩笑的观察:法官自己也用谷歌。Ziniti的说法是,当法官喜欢一项技术,市场总会找到判你赢的路。谷歌的关键词广告商标案全部获胜,在她看来到处都有这个因素的影子。

纽约时报最硬的牌:模型能逐字吐出文章

回到这起官司。Nathan把指控拆成三层:拿我的文章训练了模型;模型能近乎逐字吐出我的文章;ChatGPT的联网功能会绕过我的付费墙。Ziniti确认,这个拆法和法律界的主流分析一致。

三层里最硬的是第二层。《纽约时报》雇人反复诱导ChatGPT,拿到了大量逐字还原的原文,这在四要素下几乎无从辩护:用了全文,可能构成替代品,剥夺了版权人对内容的控制。别忘了《纽约时报》的家底,内容能追溯到1851年,每周读者5000万到1亿,这是版权法最想保护的那类作品。OpenAI的回应是称其为bug,一个孤立缺陷,正在修复。Ziniti对这个说法将信将疑,她预计取证阶段会挖出更多细节。

但真正的核心是训练本身,这也是这案子可能写进教科书的原因。

有个创作者接连收到三四封邮件,对方说:我用你所有的作品训练了一个专属GPT,太好用了。她愣在那里,我该怎么感受这件事?也许没有逐字复制,可就算措辞全变了,那套建议的内核还是她的,该不该有补偿?

版权法暂时套不上这个问题,音乐行业提供了参照。“怪阿尔”把热门歌曲改成搞笑版,每一首都老老实实付授权费,因为音乐授权体系足够清晰,付费比扯皮划算。iTunes则把Napster时代“像偷窃”的体验变成了付费理所当然的体验。Ziniti的判断是,LLM现在卡在两者中间,既没有Napster的罪恶感,也没有iTunes的清爽感,最终大概率会出现一个商业方案,让“用某人的知识”变成明码标价的事。

OpenAI会怎么辩护?Ziniti预测了一套说辞:这叫通用目的Transformer,本设备的预期用途就像录像机,供个人自己使用。录像机类比有来历,当年影视业要求禁售录像机,法院没同意,因为设备有大量实质性的非侵权用途。OpenAI的回应博客除了主张合理使用,还强调自己对世界有益,引用的例子是一条狗靠ChatGPT救命。Ziniti点破了细节:他们没敢引用人类自救的例子,那会引来医疗责任问题,就像Fitbit讲怀孕检测时永远要补一句“然后我咨询了医生”。

还有个制度空白值得记住。DMCA给托管平台建立了通知下架机制:摄影师发现图被侵权,给网站发通知,网站删图免责。LLM没有对应机制。OpenAI想真正站稳立场,需要一个类似系统,让权利人可以申请移除内容或获得补偿。Ziniti认为这是立法最可能的方向。

销毁模型基本不可能,中间方案才是主流剧本

Nathan问了一个他做律师的妻子常问的问题:损害到底在哪?真有大批用户因为有了ChatGPT就退订《纽约时报》吗?两种产品差得很远。

Ziniti的回答分几层。禁令层面,申请禁令也要过测试,其中一条是存在金钱无法弥补的损害。世上能用钱解决的问题,法院轻易不会下禁令。赔偿层面,法定赔偿真实存在。Napster时代,唱片业真的起诉过个人用户,明尼苏达州一位普通女性因为共享几十首歌,按每首上万美元的法定赔偿,最后被判赔几十万美元。区别在于Napster没替用户兜底,OpenAI已公开承诺为用户承担侵权赔偿。所以这更像巨头对巨头,普通用户暂时不用慌。

金额怎么算?《纽约时报》的诉状里有个图形化的算法:我们的内容占Common Crawl的X%,Common Crawl占你训练数据的X%,你的估值是1000亿美元,按比例乘出来。Ziniti评价:数学凑得出来,但很难干净。她还提到和解的可能形态,比如对复现问题更严重的GPT-3.5时代算一笔追溯版税。

她引用了法学院请来的一位说唱巨星御用律师。有人问版权在你的工作里扮演什么角色,对方面无表情地回答:

版权无关金钱。它关乎全部的金钱。

《纽约时报》如果能借诉讼谈成长期分成,当然会全力去争。这里有个两难:生成式AI预计带来万亿美元级的生产力,现在签的任何协议,都可能把未来的巨大价值贱卖掉。另一个策略判断:Nathan猜《纽约时报》的目标之一是推动国会立法。Ziniti补充,《纽约时报》此前在最高法院的版权案里输过,他们清楚法院路径的风险,诉讼和立法两条腿走路是经典打法。

可能的判决形态?她给出自己的版本:逐字输出问题上,判模型提供方必须采取合理措施防止复现,接近侵权法的思路;训练问题上,承认转换性,但给个人留出权利,比如登记制度、抽查模型的权利、要求透明度报告。谷歌有现成模板,据她引用的数字,谷歌的透明度报告一年处理约70亿次下架请求。补偿机制的技术基础也在长出来,Anthropic的影响函数研究能追踪模型输出和训练数据的关联,小模型主要靠关键词匹配,大模型已经呈现语义级关联。离Spotify式按次分账还很远。Nathan补了盆冷水:Spotify上艺术家每次播放拿到的钱本来就薄,OpenAI现在年收入10亿美元量级,分成摊下来可能谁都吃不饱。

蛋糕烤好了,面粉取不出来

OpenAI的退出机制听着很美:2023年8月起尊重robots.txt,网站可以声明禁止爬取;图片侧签了Shutterstock的授权。问题在于已经训练完的模型怎么办。

Ziniti的类比是全场最好记的一句:蛋糕烤好了,面粉取不出来。GPT-4在18个月前就训练完了,肉豆蔻只撒了两小撮,但整块蛋糕都带着那个味。《纽约时报》的论点正是如此:两小撮而已?没有我们,模型没这么流畅。

技术上也有人在找补。推特上有人猜测OpenAI在用更强的模型审查弱模型的输出,因为用户让DALL-E 3画马里奥时,生成到一半会自己中断,报错违反版权政策。Ziniti自己测试过,确实如此。她欣赏这个思路的潜台词:能搞出AGI的团队,应该也能搞出不侵权的方式。

图像侧的判断标准是思想与表达二分法。意大利水管工这个思想没人能垄断,画一个穿高定西装的时髦意大利水管工完全没问题。麻烦的是那种一眼就是马里奥的输出。她举了个海绵宝宝案的例子:一家餐厅整体致敬海绵宝宝,螃蟹长得一样,只把“蟹堡王”改了个名,照样出事。她的预测是会出现某种品牌注册系统,权利方自助认领关键词,要马里奥报错,要意大利水管工放行。至于Nightshade这类给图片“投毒”的水印工具,她的态度是感觉本身就有点违法,更可能的路径是大公司收购一家水印创业公司,把它变成正规市场。

开源改变什么?她的回答很律师:总有可以起诉的对象,托管方、算力提供方都跑不掉。开源只是权利变现的另一种方式,free的是自由,未必是啤酒。合规审查已经是一门生意,有创业公司在用AI检查企业的开源依赖。

律师还没反击,但窗口不长了

Nathan提了个2023年的意外:持牌专业群体几乎没有大规模反击。美国医学会没告OpenAI,加州律师协会只出了使用指引。最高法院首席大法官罗伯茨在年度报告里说,很快,没有AI的法律研究将不可想象。

为什么这么安静?Ziniti给了三个解释。第一,工具真的好用,她的产品基于GPT-4,过去要10到15分钟甚至一小时的律师函,现在一分钟出稿,课堂上律师们的下巴是真的会掉。第二,现在的法律人经历过谷歌改变行业,对技术不陌生。第三,专业知识的解绑已经进行多年,AI只是加速。

医疗侧的信号更猛。Nathan提到谷歌DeepMind的新研究,对话式AI和人类医生同场竞技做诊断,AI的准确率大约60%,人类30%,两倍的差距,是他见过的医疗人机对比里最大的差值。Ziniti的评论很直接:两比一的差距面前,执业许可制度会越来越难辩护。加州律师协会甚至有条“效率义务”:有能力用工具更好地服务客户,就有义务用。

Ziniti自己的立场是“人在回路”看多。模型偶尔会在法律问题上胡编案例,那个让ChatGPT直接写诉状、引用全凭空编造案例的律师已经上了新闻。她给律师教学的比喻流传很广:模型是一个读过整个互联网、聪明、急切、速度飞快的实习生。实习生能用,但签字的人得是你。

这期对话的实用结论,明天就能用:

  • 站长现在就可以检查robots.txt,加上OpenAI的爬虫屏蔽指令,这是目前唯一官方承认的退出通道。
  • 创作者别急着愤怒或欢喜。Ziniti预测会出现“GPT你自己”式的服务,输入个人网站就能生成收费知识库,那才是进场的时候。
  • 用AI干活的专业人士,记住“人在回路”,让模型起草,自己签字,责任无法外包。
  • 想研究合理使用,国会图书馆维护着分类清晰的案例库,免费可查。

最后留个判断:这场官司大概率以和解或中间态判决收场,逐字输出会被要求加防护栏,训练会被认定有转换性但附带某种补偿机制。真正值得盯的是国会动向,一旦出现LLM版的DMCA,内容行业的游戏规则就换了一轮。

In this episode, Nathan sits down with tech lawyer Cecilia Zeniti, Founder & CEO of GC AI, the AI for in-house counsel. They discuss the origins of IP law in the US Constitution to promote creativity, the "fair use doctrine" and how OpenAI could argue ChatGPT is transformative, Google's patenting strategy around the transformer, and much more. If you need an ecommerce platform, check out our sponsor Shopify: https://shopify.com/cognitive for a $1/month trial period.

LINKS:
GC AI: https://getgc.ai/
Cecilia's Twitter/X: https://twitter.com/CeciliaZin

SPONSORS:
Shopify is the global commerce platform that helps you sell at every stage of your business. Shopify powers 10% of ALL eCommerce in the US. And Shopify's the global force behind Allbirds, Rothy's, and Brooklinen, and 1,000,000s of other entrepreneurs across 175 countries.From their all-in-one e-commerce platform, to their in-person POS system – wherever and whatever you're selling, Shopify's got you covered. With free Shopify Magic, sell more with less effort by whipping up captivating content that converts – from blog posts to product descriptions using AI. Sign up for $1/month trial period: https://shopify.com/cognitive

Omneky is an omnichannel creative generation platform that lets you launch hundreds of thousands of ad iterations that actually work customized across all platforms, with a click of a button. Omneky combines generative AI and real-time advertising data. Mention "Cog Rev" for 10% off www.omneky.com

NetSuite has 25 years of providing financial software for all your business needs. More than 36,000 businesses have already upgraded to NetSuite by Oracle, gaining visibility and control over their financials, inventory, HR, eCommerce, and more. If you're looking for an ERP platform ✅ head to NetSuite: http://netsuite.com/cognitive and download your own customized KPI checklist.

X/SOCIALS:
@labenz (Nathan)
@CeciliaZin (Cecilia)
@CogRev_Podcast

TIMESTAMPS:
(00:04:30) - Introduction to Intellectual Property law
(00:07:30) - Overview of main types of intellectual property - patents, trademarks, copyrights
(00:10:30) - Could Google have patented the transformer? Google’s patent strategy
(00:16:30) - Claim construction and its parallel to LLMs
(00:17:17) - Sponsor: Shopify
(00:18:46) - Practical impact of open source on ability to enforce IP rights
(00:21:47) - Litigation, internal data privacy, and communication
(00:24:30) - Copyright law and fair use doctrine for transformative works
(00:30:22) - Sponsor: Netsuite | Omneky
(00:31:42) - Big tech company lawsuits when money starts shifting between incumbents and newcomers
(00:34:10) - When judges like a technology…
(00:34:57) - Scraping and LinkedIn’s suit
(00:38:50) - NYTimes vs OpenAI
(00:40:00) - Copyright, creators, and music industry licensing
(00:42:35) - Transformative nature of work and “fair use”
(00:50:29) - Limits on getting injunctions and ongoing royalties from courts
(00:56:39) - Legalities of other modalities, like DALL-E images of copyrighted IP
(01:01:00) - OpenAI’s opt-out for licensing on the text modality
(01:03:58) - OpenAI’s weak to strong generalization
(01:07:00) - Pharmaceuticals and software, AI doctors, public good balancing
(01:10:40) - Why licensed professionals aren’t pushing back against AI
(01:15:36) - Duty to use tools for efficiency to a client
(01:17:04) - Impact of open source and ability to find someone to sue
(01:20:30) - Forward-looking thoughts on what IP laws should be for AI
(01:27:38) - Overview of Cecilia's company GC AI for lawyers

This show is produced by Turpentine: a network of podcasts, newsletters, and more, covering technology, business, and culture — all from the perspective of industry insiders and experts. We’re launching new shows every week, and we’re looking for industry-leading sponsors — if you think that might be you and your company, email us at erik@turpentine.co.

本集资源与出处