No. 34·精读

GPT-4砍价成功率翻10倍:机器人律师DoNotPay的8年消费者战争

E34: The Consumer Rights Revolution with Joshua Browder of DoNotPay

机器人律师公司DoNotPay创始人布劳德聊AI在法律服务中的现状、消费者使用伦理与政策监管重点。

节目音频00:00 / 1:32:34
中文精读由 AI 基于原始访谈改写,非官方翻译,可能存在偏差或错误;表述以原节目为准。

GPT-3替用户跟Comcast客服谈判,对方说降20美元,它立刻道谢收下。换成GPT-4,它会顶回去:不够,我要更多。最后帮用户拿回几百美元。

DoNotPay创始人约书亚·布劳德(Joshua Browder)在Cognitive Revolution播客里给出的对比是:从GPT-3到GPT-4,账单谈判的成功率提升了10倍。

更有意思的是另一段对话。一家公用事业公司声明「我们不接受AI发起的申诉」,DoNotPay的AI回答:

「我不是AI,我只是一个懂自己权利的消费者。」

布劳德管这叫军备竞赛。他的公司被称为世界上第一个「机器人律师」,BBC叫他「互联网罗宾汉」。8年下来,这个7人团队每年帮用户省下数亿美元。

一堆停车罚单,逼出一个机器人律师

2015年,布劳德从英国搬到斯坦福读书,吃了一堆停车罚单。他给自己找的借口是英国靠左行驶,真实原因是车技烂。

但他发现一件事:只要说对话,就能省下钱。他写了第一版模板工具帮朋友申诉罚单,火到完全超出预期,前后申诉掉几十万张罚单。他意识到,这事能扩展到整个消费者权利领域。

早期产品全是规则引擎。停车罚单选一个抗辩理由,比如标识不规范,系统自动引用旧金山的标识法规,填进模板信寄出去。航班Wi-Fi不好用?有一封措辞极其凶狠的模板信,美联航收到就退钱。

模板的死穴很快暴露。同一个机构收到1万封长得差不多的信,就会开始无视你。他们试着随机化措辞,还是能被认出来,用户还经常选错模板。

大语言模型来了之后,这套东西被整个冲掉。用户用自然语言描述情况,后端直接匹配该做的事。连他们操作浏览器用的Selenium机器人也升级了:以前靠网页元素定位,Comcast改个版面就崩,现在AI加持,网站小改照样能跑。

布劳德还讲了一个反例。有家叫Paribus的公司,自动化了大通银行信用卡的价格保护功能,用户授权后它扫描购物记录,发现降价就自动索赔。问题在于,大通提供价格保护的默认前提是没人真用它。AI一自动化,用的人太多,大通直接砍掉了整个业务,Paribus被迫卖身。

DoNotPay把护城河选在法律上。法律不会因为公司不高兴就一夜改掉。《公平信用报告法》规定,提交的信用争议只要格式正确、有签名有地址,征信机构必须受理。公司可以讨厌AI,但躲不开成文法。跟Comcast的纠纷同理,AI会把用户的抱怨转写成联邦贸易委员会(FTC)的法规条款,误导性商业行为违法,对方收到后往往直接按下退款键。

穷人反而花得更多,AI决定管到底

布劳德最愤怒的是银行。整个金融系统都在跟普通人作对,转账收费、兑现支票收费,账户余额不够多就处处是费。大银行一边几乎不付利息,一边对普通人收高额费用。

他给这个结构性问题起了个名字:收益集中,伤害分散。富国银行向100万人每人收10美元,轻松赚1000万美元;每个被收10美元的人,却因为金额太小、工作太忙,根本不会反击。好比有人从一万个路人兜里各摸走10块钱,没人会为10块钱报警。

DoNotPay现在有200多个用例:退款、取消订阅、砍账单、追银行费用。产品逻辑也在从被动转向主动。以前用户要自己上传账单,未来的画面是:你早上醒来,AI告诉你,我发现你被多收费了,已经帮你省了50美元。

布劳德对AI代理创业公司的态度很冷。俄亥俄州的普通人不会去装Chrome插件跑AI代理,这东西最终会长在手机、操作系统和苹果眼镜里。他的目标是「防呆」:用户根本不该感知到过程,AI在后台把事办了。

至于伦理争议,AI谎称自己是人类这事怎么看?布劳德的辩护是:这些纠纷太简单,属于正和博弈,连洛杉矶停车管理部门都欢迎模板化申诉,因为人类自己写的申诉信大多是乱码,标准化文本反而好处理。大公司那头早就在用AI,而且从不声明。消费者用同样的工具,只是拉平了牌桌。

AI会撒谎,监管该管谁

主持人Nathan Labenz提到赫拉利的提议:第一部AI法规应该是强制AI自我披露。布劳德直接反对。

他的理由很实际:iMessage的自动补全也是AI写的,难道每句话后面加个括号注明「本句由AI生成」?AI会渗透到生活的每个角落,普遍的披露义务只会拖慢技术。真要立法,他只支持约束面向消费者的场景,企业之间的通信别管。

他见过监管被滥用的样子。合规成本对苹果、谷歌、OpenAI不算什么,压死的是小公司;骗子更不会守法。纽约那位用ChatGPT写辩护状的律师就是教训,ChatGPT编造了判例,他盲目信任直接提交,可能丢执照甚至坐牢。严肃场景必须有人把关,鸡毛蒜皮的纠纷交给AI反而让所有人省时间。

但他不反对禁止恶用途。他列的清单包括:

  • AI催债。预录AI语音让催收公司从一天打1000个电话变成100万个,该禁。
  • AI参与量刑。美国已经在用专家系统给法官写量刑报告,直接影响人坐几年牢。
  • 伦敦的全路网AI测速。你从一个城市到另一个城市用时太短,AI照样开罚单。

1991年美国立法管过自动外呼电话,现在需要更新,把AI语音销售和催收纳进去。监管思路他推崇STIR/SHAKEN框架:骚扰电话太猖獗,国会直接立法让电话公司负责识别来电,你iPhone上显示的「疑似骚扰电话」就是这么来的。同样的逻辑可以压给微软和OpenAI。把责任转移给平台,平台就会自我监管,律师会用无穷无尽的集体诉讼盯着他们。再给最大的模型加牌照,能挡住95%的坏人。

为什么是95%?他的观察是:骗子并不聪明。真会自己微调开源模型、搞定全套工程的人,都在正经AI公司赚钱,看不上电话诈骗这点钱。让笨人更难行骗,效果大得惊人。

通缩、失业,和中国消费者的幸福

布劳德对AI的宏观判断是通缩。客服支出约占企业总成本的10%,这就是汉堡价格和ChatGPT之间的联系:麦当劳可以全AI点单,美联航理论上能把机票降价10%,虽然飞机跟AI毫无关系。主持人补充了一个数据,同等能力的模型一年内价格降了97%。

他拿中国做对照。中国客服AI用得多,效率高得多。在美国打客服电话,报账号、等待、转接,一小时办不成事;在中国,事情很快办完。结果是中国消费者的标准比美国高得多。美国人又愤怒又能忍,居然接受了Planet Fitness这种取消会员必须寄签名信或到店的规则,这在中国不可接受。加州甚至专门立过法,要求企业必须提供线上取消订阅的选项,几年前苹果的AppleCare还只能传真取消。中国的监管焦虑集中在内容上,对企业效率类的应用没那么在意。

就业预测他给得很具体:5年内约30%的白领岗位消失;蓝领反而安全,还有5年缓冲;15年内可能有60%的岗位被淘汰。温迪汉堡已经上了FreshAI点单系统,官方说法相当直白:

「它比我们任何一个人类点单员都好。而且你不会察觉自己在跟AI说话。」

新岗位也会有。20年前没有播客工程师这个职业,娱乐业会爆炸,可能出现职业游戏玩家,甚至AI在游戏里造出假工作让人去做。修马桶的活也安全,现实世界里的东西大部分还得靠人。

但他不同意Anthropic泄露的融资材料里那种「2025到2026年掉队就永远追不上」的判断。美国是老龄社会,还有一大群人用支票付账,转型会比硅谷预期的慢得多。高德纳的调查数据摆在那:54%的美国人听说过ChatGPT,只有12%真正用过。先用起来的人,会拿到几年的不对称优势。

代价他也看得很清楚:AI的收益会流向资本,1000人的公司拿走全社会的价值,不平等加剧。他是资本主义信徒,也认为需要某种基本收入来兜底。同时AI会让普通人变强:这是个按钱分配胜负的司法体系,AI能把律师、医生、心理咨询师的服务价格打下来。

律师会反击,7人公司自己也在算账

法律行业已经在反击。德州一位联邦法官要求,所有提交的文件必须声明:要么完全没用AI,要么人工核查过AI做的每件事。欧盟走得更远,可能给所有AI用途设牌照。专业人士会靠监管和牌照自保。教育、医疗、住房贵,根源也在这,30年里电视价格暴跌,这些东西没跌。

DoNotPay的三条应对策略:第一,不正面竞争,没有律师会为了帮人省100美元Comcast账单起床干活;第二,推动立法,他们在推一项AI助手法案,纽约众议员里奇·托雷斯愿意牵头;第三,偶尔扔个燃烧弹再求原谅,比如法庭耳塞演示,先让公众看到可能性。医生那边则开放得多,哈佛医学院的扎克·科哈内(Zak Kohane)认为,很快没有大模型辅助的诊疗会被视为不达标。医生有希波克拉底誓言,律师没有。

DoNotPay自己就是抠门样本。7个人,几十万订阅者,OpenAI的API账单已经是最大开支之一。布劳德的省钱建议:别什么都用GPT-4,简单请求发给GPT-3.5,便宜10倍,更简单的用开源模型。开源模型现在的能力大概是GPT-4的60%,很多场景够用。

他举了个自己花的钱:美国《No Surprises Act》要求医院公开价格,但全美医院的价格都藏在各自的PDF里。他们用机器人爬完所有数据,再训练定制模型做标准化,花了8万美元。贵,但能靠帮用户砍医疗账单赚回来。

他也给一类产品判了死刑:帮用户分析每个网页服务条款的浏览助手,消费者不会付费,只能免费加广告,但GPT-4的API成本撑不起Honey那种免费模式。免费加广告的消费者产品,在强模型成本面前算不过账;订阅制和企业级才走得通。对同行每用户每月烧几十美元补贴换用户的打法,他的态度是:2020到2021年那种花100美元获客成本换70美元用户价值的思维是错的,不能靠「以后模型会降价」经营公司。

全片他最得意的用例跟AI无关。美国法律规定,每个骚扰电话可索赔1500美元,问题是骚扰电话用虚拟号码,你根本不知道起诉谁。他们的解法压根没用AI,靠的是金融科技:做一张「陷阱信用卡」。骚扰电话向你推销时,把这张卡号给对方,扣款会被拒绝,但通过支付网络,你能拿到对方的商家名称、电话和地址,起诉所需的信息全齐了。

有个用户把起诉骚扰电话做成了全职工作,赚了几万美元,给家里换了新屋顶。骚扰电话公司的和解率甚至比押金纠纷还高,因为他们怕集体诉讼,通常500美元加保密协议私了。个人消费者打这类官司,反而比大律所有优势:立案即公开记录,大律所会被盯上,个人不会。

明天就能用上的四件事

这期节目最值钱的地方,是把「消费者权利」从一句口号变成了具体动作。明天就能做的:

  • 小额不公别忍。格式正确、有签名的信用争议,法律强制对方受理;误导性收费违反FTC法规。武器是现成的,多数人只是不知道。
  • 把任务分级。简单任务用便宜模型或工具,别把所有事都丢给最贵的选择,这是7人公司活下来的成本纪律。
  • 先用起来。只有12%的美国人用过ChatGPT,这个差距就是几年的不对称优势,中文世界同理。
  • 接到骚扰推销电话别急着挂。配合对方走完支付流程,留下商家信息,按每通电话1500美元的标准索赔,对方大概率会花钱私了。

布劳德被问到愿不愿意植入Neuralink时,回答是100%愿意,但要等beta版。他的逻辑跟整期节目一致:军备竞赛里,工具在手的人赢,害怕工具的人被甩下。他最大的希望是AI拉平赛场,最大的恐惧是AI被监管俘获、变成压制普通人的工具。竞赛已经开跑,先上车的人已经坐进了头等舱。

In this episode, Nathan sits down with Joshua Browder of DoNotPay, the world’s first robot lawyer. They chat about the current state of AI use in law, what policymakers should consider in regulating AI, and the ethics of robo-lawyers for consumer use.

We're hiring across the board at Turpentine and for Erik's personal team on other projects he's incubating. He's hiring a Chief of Staff, EA, Head of Special Projects, Investment Associate, and more. For a list of JDs, check out: eriktorenberg.com.

RECOMMENDED PODCAST:
The HR industry is at a crossroads. What will it take to construct the next generation of incredible businesses – and where can people leaders have the most business impact? Hosts Nolan Church and Kelli Dragovich have been through it all, the highs and the lows – IPOs, layoffs, executive turnover, board meetings, culture changes, and more. With a lineup of industry vets and experts, Nolan and Kelli break down the nitty-gritty details, trade offs, and dynamics of constructing high performing companies. Through unfiltered conversations that can only happen between seasoned practitioners, Kelli and Nolan dive deep into the kind of leadership-level strategy that often happens behind closed doors. Check out the first episode with the architect of Netflix’s culture deck Patty McCord.
https://link.chtbl.com/hrheretics

TIMESTAMPS:
(00:00) Episode Preview
(03:22) Joshua Browder and the story of DoNotPay
(04:50) The value incurred through an AI lawyer
(07:17) What are the legal and financial injustices that motivates Joshua’s work?
(12:46) How does the AI negotiate with a Comcast chat agent?
(16:28) Consumer security
(17:12) Sponsor: Omneky
(21:08) The ethics of DoNotPay
(22:27) Should AI need to disclose that it’s AI?
(24:47) How much human intervention is necessary in AI tooling?
(27:15) Where does the burden of proof lie for AI regulation and ethics?
(31:47) Advice to policymakers
(35:45) AI Liability
(38:05) AI Arms Race
(43:46) Productive bot interactions
(45:00) AI-powered arbitration
(49:28) How the consumer experience might change two years from now
(51:45) AI Superapps
(55:25) Moats in AI
(57:11) How much money does DoNotPay save people today?
(59:30) Consumer and enterprise timelines given AI
(01:06:30) What will AI replace?
(01:09:34) Impact of AI in different industries
(01:11:10) The legal field’s view of AI
(01:15:50) Deflationary factors in running DoNotPay
(01:25:00) What are non-obvious ways to save money?
(01:27:55) Joshua’s favorite AI tools
(01:28:17) Would Joshua get a Neuralink implant?

LINKS:
https://donotpay.com/

TWITTER:
@jbrowder1 (Joshua)
@DoNotPay (DoNotPay)
@CogRev_Podcast
@labenz (Nathan)
@eriktorenberg (Erik)

SPONSORS:
Shopify is the global commerce platform that helps you sell at every stage of your business. Shopify powers 10% of ALL eCommerce in the US. And Shopify's the global force behind Allbirds, Rothy's, and Brooklinen, and 1,000,000s of other entrepreneurs across 175 countries.From their all-in-one e-commerce platform, to their in-person POS system – wherever and whatever you're selling, Shopify's got you covered. With free Shopify Magic, sell more with less effort by whipping up captivating content that converts – from blog posts to product descriptions using AI. Sign up for $1/month trial period: https://shopify.com/cognitive

Thank you Omneky for sponsoring The Cognitive Revolution. Omneky is an omnichannel creative generation platform that lets you launch hundreds of thousands of ad iterations that actually work, customized across all platforms, with a click of a button. Omneky combines generative AI and real-time advertising data. Mention "Cog Rev" for 10% off.

NEWSLETTER:
More show notes and reading material released in our Substack: https://cognitiverevolution.substack.com

本集资源与出处