加州议会桌上这份 SB 813，把 AI 的验收权交给了拿牌照的私人公司

2025 年 7 月，加州立法流程里躺着一份编号 SB 813 的法案。它的核心条款读起来有点怪：政府不写具体技术规则，只写"我们要什么结果"，比如自动驾驶车的事故率必须低于人类司机、AI 系统不能让人人都能搞出生物武器。至于怎么达到这个结果，交给一批拿到政府牌照的私人认证公司去摸索、去企业现场查、去发证书。企业拿到证书，将来万一还是出了事被告上法庭，可以拿它当证据，说自己已经尽到了注意义务。

这套东西的名字叫"监管市场"（regulatory markets）。提出它的人是约翰霍普金斯大学的 Bloomberg 杰出教授 Gillian Hadfield，专攻 AI 对齐与治理；把它推进立法流程的是 Fathom 的联合创始人兼首席战略官 Andrew Freedman。Fathom 是一家非营利机构，成立一年多，靠慈善资金运转。

主持人 Nathan Labenz 在开场就摆出了这道难题的两端：欧盟《AI 法案》那种高度规定动作的监管，跟不上技术节奏；而完全放任也不行，因为 xAI 一边声称自己拥有前沿能力，一边 Grok 4 还在自称希特勒。中间那条路在哪，就是这集播客想聊的事。

两个法律人，一条从大麻管到 AI 的路

Hadfield 的履历挺不寻常。经济学博士加法学博士，职业生涯前半段做法律援助的可及性研究，2000 年代中期开始琢磨一件事：十九世纪搭起来的那套立法和监管机器，已经不适合今天这个复杂、高速、跨司法辖区的世界了。2017 年她出过一本书讲这个判断，那时候还没专门盯 AI。

2019 年，她和 Jack Clark 合写了一篇论文，正式把"监管市场"提出来当作 AI 安全的方案。Jack Clark 后来成了 Anthropic 的联合创始人和政策负责人。也就是说，这个概念在公开视野里显得很新，在学术圈已经磨了快二十年。

Freedman 带来的是另一类经验。他当过科罗拉多州的"大麻沙皇"，主持该州合法大麻监管体系的落地。他的原话很实在：大麻比 AI 简单得多，可当年那套体系已经牵动科罗拉多法律的每一个角落。真正让那套体系站住脚的，是它的迭代能力。他们一开始没想到食用大麻会长成那个样子，发现之后能马上改规则。他的判断是，任何人想在某一个时点预测 AI 的走向并设计出六个月后还成立的护栏，都是错的。

两个人都提到一件事：Fathom 成立初期做了一轮民意调查和深度访谈，几乎所有人都同意 AI 需要治理，也几乎所有人都同意自上而下的重手监管行不通，同时把一切交给实验室自己管也不行。第三条路在哪，成了他们要找的东西。

政府定结果，市场找方法

Hadfield 把这个机制拆成三层。

第一层是政府。政府负责判断社会能接受多大的风险：自动驾驶允许多少事故率，生物武器能力提升的门槛卡在哪里，AI 陪伴产品对未成年人意味着什么。这些判断是价值判断，必须由民主程序来做。

第二层是一批独立的"监管服务提供商"。政府给它们发牌照，发牌照的依据是它们能证明自己的方法真的能达到那个结果。这批机构可以是营利公司，也可以是非营利组织。它们之间互相竞争，争的是"谁的方法更能证明有效、成本更低"。

第三层是被监管的目标公司。它们从这批持牌机构里挑一个合作，接受审计和检查。

Hadfield 讲了一个监管演进的谱系。最早是命令控制型：政府说，你得在烟囱上装这种洗涤器。后来进化到绩效型：政府说，烟囱排出的污染物不得超过这个水平，用什么技术你自己想办法。监管市场再往前推一步：政府定结果，然后刻意培育一整个行业专门研究"怎么达成这个结果最有效"。

她强调了一个容易被忽略的前提：市场从来不是天然存在的，它建立在合同法、产权、反欺诈、反垄断这些法律基础设施之上。她引用了主持人提到的一句话，大意是市场没有自由与不自由之分，只有规则好坏之分。苏联解体后那批转轨经济体，把政府管控一撤就以为市场会自己长出来，结果没有，因为法治没跟上，没人敢投资。

Andrew Freedman 补了一个很关键的对比。自上而下的规则容易变成天花板：立法者定了一个标准，企业把它丢给合规部门，合规部门的工作变成"怎么在技术上勾完这些框，同时不挡住业务部门往前冲"。他说这话的时候特意声明，自己和 Hadfield 都是律师，不是在黑律师。

如果我们能独立地搞清楚"好"长什么样，并且让企业明白这套标准会被普遍适用，那才是它们真正会去够的那根横杆。

UL 那张小标签，花了一百年才写进法律

主持人追问：现实中有哪个行业真的这么干过？

Freedman 给的答案是 UL（Underwriters Laboratories）。你家里任何一件电器上那个小圆标。这家机构诞生于十九世纪末的世界博览会，主办方怕整个会场烧起来，请了一组独立专家来检查各个展位，确认没有火灾隐患。这门生意后来自己长起来了，跑进了很多领域，逻辑变成：你不用信任每一件送到你面前的消费品，你只需要要求它们都去拿这个标。大约一百年后，UL 才被正式写进法律条文。

Hadfield 给了一个更接近制度设计的例子：医疗器械质量管理。美国、加拿大等五国组成一个联盟，各国可以选自己的标准，美国用 FDA 的，加拿大用 ISO 的，ISO 是个非营利的标准化组织。联盟真正做的是产出一份"获授权认证机构"名单，然后规定：只要你被名单上任何一家认证过，一次审核，就能在这五个国家同时卖。

她还提醒，很多领域的监管史本来就是从私营部门起步的。证券监管最早来自证券交易所自己定的披露规则，交易所说想在我这儿挂牌就得这么披露，披露做得好，来的人就多，后来政府才把它接过去。今天的 FINRA 是家私人会员制组织，但它用的监管规则要经 SEC 批准。

所以这套提案的真正定位，是把政府从"写细节"的位置挪到"盯住那批私人监管者"的位置。Hadfield 说得很直白：这个模型的好坏，完全取决于政府有没有能力对这批私人机构实施有牙齿的监督。

信用评级机构是个反例，因为它压根没被管

主持人拿 2008 年开刀。他在次贷危机前的金融服务行业待过，亲眼看见信用评级机构是怎么烂掉的。现在 AI 领域冒出来一堆奇形怪状的产品，怎么保证不重演一遍？

Hadfield 的回答很干脆：评级机构恰恰证明了反面。市场需求是政府创造的，政府规定发债必须找它们评级。同时政府又给了它们责任豁免，评级结果再离谱也不用担责。政府对"它们干得好不好"这件事零监督。这跟监管市场模型完全是两码事。

她描述了这个模型里竞争该怎么发生。假设政府定的目标是：不能让只有高中化学水平的人也搞到制造生物武器的能力。那么这批持牌机构就有动机跑去跟政府说，看，我们摸出了这个方法能把风险压下去，这是证明。顺便说一句，我们那些同行在糊弄你，说这已经是极限了。因为市场份额就摆在那儿。

她顺带批评了当前 AI 治理的一个通病：大量流程型规定，要求日志、要求内部监督岗、要求某个审批环节，却从来没人验证过这些流程到底有没有用。监管市场的一个潜在好处，是把"哪套流程真的有效"变成可以被证伪的问题。

Freedman 补了两条硬约束。第一，政府必须深度介入这些认证机构的钱从哪来：不能让实验室自己出钱养着认证方，同时也要确保它们有能力拒发证书还活得下去。他讲得很具体：如果一家认证机构拒掉五家实验室里的四家就会倒闭，那它一定会想办法凑出四张证书，这就完蛋了。第二，政府得对"要什么结果"这件事认真起来。有些领域有人类基准可以对照，比如自动驾驶比人类司机安全多少；有些领域是全新的伤害，连事故上报系统都没有；还有些领域第一次出事就是灾难性的，那种情况下"你路上守了规矩"根本不构成辩护理由。

谁来看住看门人

主持人把最尖锐的一刀留在了这里。SB 813 现行版本里，批准认证机构、持续盯着它们的，是加州总检察长。一届总检察长换一届，态度可能天差地别。要是碰上一个被游说穿透的，整个体系可以很快滑向逐底竞争。前沿实验室面对一排认证选项，凭什么不挑最宽松最便宜的那家？

Freedman 承认这个批评成立，而且认为法案得改，应该设一个带专业能力的委员会结构，而不是把全部权力压在总检察长一个人身上。他提到一个细节：得让持牌机构对"牌照随时可能消失"这件事真的心生敬畏，出了投诉要有人有钱去查。

他还给了一个横向的解法：如果这套东西同时在好几个州、甚至好几个国家落地，任何一方撤销某家机构的牌照，都会触发其他辖区的警觉。信息是公开的，公众可以自己比对：这家机构报上来的"我们让世界更好了"的数据是不是可笑，那家是不是真在做事。

Hadfield 把话收得更紧：防止逐底竞争的最终保障，就是政府真的在监管，只不过换了一种监管对象。她现在看到的现状是政府在 AI 治理上大面积缺位，默认把监督权交给了企业自我管理，实验室自己说该做哪些红队测试，政府只能看到有限的部分。她说了一句很重的话：这是历史上第一次，一种影响如此巨大的通用技术，几乎完全长在私营公司内部，外面还罩着一层法律虚构出来的壳，里面发生什么，除非公司愿意说，或者政府强行要求看，否则出不来。

她给出的对策是把"可见度"当成这套体系的核心产出之一。独立认证机构跟实验室签合同，能拿到比政府细得多的信息，因为企业相信保密和知识产权保护。然后政府再对这批认证机构提要求：你得给我看你看到了什么，你得证明你的方法达成了我定的目标。信息流是分层的，政府不必直接钻进实验室的服务器，但能通过中间层获得能用的判断。

主持人抛出 Dean Ball 的一句话作为收尾：共和国需要美德。任何制度设计到底还是靠一批人在关键岗位上认真干活，没有例外。

四个反方意见，四个回答

这集最扎实的部分是主持人一口气请出的四路质疑。

第一路来自 a16z 的 AI 政策主管 Matt Perrault：合规成本会不会高到只有大厂玩得起，初创公司反而被挤出去？Freedman 明确说不接受这个结果。他认为这套结构恰恰能做出分层：小型开发者、风险暴露有限的部署方，可以走一条要求低得多的通道，而不是像 SOC 2 那样一套标准拍死所有人。他反过来说了一句更狠的：在完全不管的世界里，初创公司同样吃亏，因为只有大厂才有能力向银行、向客户证明自己是安全的。一个想颠覆银行业的十人团队，没有任何办法让银行相信他。Hadfield 从另一个角度补刀：现行监管体制的真正问题就是太贵太慢，GDPR 那种流程密集的写法已经成了欧洲初创公司的负担，而这套提案的目标正是把监管做得更便宜、更有效。

第二路来自法学教授 Gabriel Weil：应该扩张侵权责任，把"差一点出事"也算进去。Hadfield 的回应是回到领域分工。核设施、制药这些领域，社会从来没有单纯依赖事后诉讼，FDA 就是要你在上市前证明安全有效，诉讼只是备份。灾难性风险领域更是如此，金融系统崩掉、交易代理引发踩踏，这些不该等到打完官司再处理。Freedman 补了一个反向担忧：把"差一点"入罪，最直接的后果可能是没人再上报差一点。知道得越多，责任越大，理性反应就是别知道。他更希望看到主动做事的人被奖励，而不是等世界烧完之后再去起诉。

第三路：为什么不直接强制上保险，让保险公司去定价风险？这是全场最精彩的一段。Freedman 说，大家把保险当魔法棒挥了太久，没问过保险到底靠什么运作。保险要给风险定价，前提是有人真的知道风险在哪、什么措施能降低风险。这个知识基础现在不存在。保险公司面对 AI，跟其他所有人一样在猜。Hadfield 给的正面例子是 Armilla 和劳合社的合作：Armilla 做监管技术，用了它的方法，就能拿到保险。顺序是先有技术，后有保单。她还点了一句：如果只强制保险，等于把"社会能接受多大风险"这个民主判断，悄悄交给了保险公司的精算部门。Freedman 又加一层：真正灾难性的风险，保险公司反而可能乐意承保，因为赔付那天社会可能已经不存在了。

第四路是主持人自己提的：那些大到无法用金钱衡量的伤害怎么办？比如生物风险。Freedman 直接说，这正是他希望看到的修正案之一：有些伤害大到根本不该落进这套机制里，得单独拿出来处理。Hadfield 的说法是，这只是一件工具，不是万能钥匙，它要嵌进侵权法、标准组织、企业自身激励、媒体监督、国际机制这一整套已经极其复杂的系统里。

为什么 AI 不是"又一个产品"

主持人问过一个问题：汽车有监管，药品有监管，AI 凭什么特殊？Hadfield 的回答是，AI 根本不是一个产品，它是通用技术，会渗进教育、医疗、司法、物流、城市管理、生物安全、情感陪伴，每个领域的目标和方法都不一样。所以别想着"我们把 AI 管住了"这种话。

她真正看重的是这套结构的发现功能。市场能在最前线嗅出问题在哪、需求在哪，而这是任何一间会议室里的白板都推演不出来的。她举了个具体的场景：企业采购方想接一个客服聊天机器人，但担心它胡编乱造给公司惹麻烦，于是开始向市场索要某种可信的保障。这种自下而上的需求，会推动认证服务长出来。家长的担忧也一样，AI 陪伴产品对孩子的伤害，已经被侵权诉讼顶到了台面上。

顺带说，那起 Character.AI 的案子挺过了驳回动议，这是目前最接近"AI 进入侵权法领域"的实证。Freedman 的判断是，全美各地的州法官会给出五花八门的责任认定，模型开发者、部署方、应用层，整条栈上的人都得开始考虑责任问题了。

SB 813 到底让人放弃了什么

主持人问得很具体：公众失去了多少起诉的能力？跟制药、汽车比是什么水平？

答案是：几乎没失去什么。现行版本给的是"可反驳的推定"。你拿到了认证，法庭上可以据此推定你履行了注意义务。原告照样能起诉，照样能拿别的证据来推翻这个推定。Hadfield 用了她给学生的那句老话：你永远都可以起诉，侵权法体系就是这么运转的，它靠一个一个案子往上长。疫苗那种彻底封死诉讼权、另设补偿基金的做法，是极少数例外，911 受害者补偿基金也是。她明确说，这个提案不打算走那条路。

她真正想强调的是时点差异。诉讼是在伤害发生之后、在漫长昂贵的程序末端、由付得起律师费的人来界定什么叫"合理注意"。而这套机制想把这个界定往前挪，挪到产品发布之前，挪到有人受伤之前。

Freedman 补了一句价值排序：目标应该是更少的人受伤，而不是更多的案子可打。他更愿意看到一套能证明"我让人受伤的概率更低了"的体系，然后给这种证明以回报。

明天可以做的四件事

第一，去读 SB 813 原文。这集播客里 Freedman 自己说这份法案"需要相当多的修改"，还提到两个他想要的修正方向：把总检察长独揽的审批权改成带专业能力的委员会结构；把灾难性级别的伤害明确排除在认证免责机制之外。看一份法案的哪一条在改，比看评论文章有用得多。

第二，如果你在公司里管 AI 采购或供应商准入，把"第三方认证"写进合同条款。这集里最被低估的一句是 Hadfield 讲的：企业对可信保障的需求会自己创造出市场。你现在提这个要求，就是在给那批认证机构输血，也是在给自己留后路。写清楚要什么结果的认证，而不是要什么流程的认证。

第三，如果你是初创公司或独立开发者，别把这类提案默认当成负担。Freedman 和 Hadfield 都反复强调分层，小规模、低风险暴露的开发者应该有一条轻得多的通道。这套机制目前还在征求意见阶段，分层条款现在没人写，以后就很难加进去。

第四，找法务聊一次"可反驳的推定"这五个字。它意味着企业拿到的不是免责，是一个举证责任的转移。这个区别会直接改变你的风险预算怎么花：花在事后应诉，还是花在事前拿到那张证书。

Hadfield 在结尾说了一句挺急的话：这件事十年前就该开始做了，现在 AI 在加速，我们还站在起跑线上系鞋带。SB 813 会怎么改、能不能过，都还是未知数。但这集播客真正的价值，是把一个抽象的问题摆到了具体的位置上：当技术跑得比立法快，社会要决定的不只是管不管，还有让谁来管、按什么标准验收、验收结果算不算数。这三个问题，任何一份 AI 法案都躲不开。