# AGI会比最后一台传真机先到来：经济学家哈蒙德的默认未来推演 > Cognitive Revolution No. 91 中文精读 - 原标题：AGI and Institutional Disruption: Sam Hammond in Conversation with FLI’s Gus Docker - 发布日期：2023-12-30 - 主持：Nathan Labenz - 网页版：https://cogrev.1mmt.com/ep/091-agi-and-institutional-disruption-sam-hammond-in-conversation-d1c9c9.html - 精读字数：约 5717 字（阅读约 13 分钟） > 本文为 cogrev.1mmt.com 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 经济学家山姆·哈蒙德（Samuel Hammond）有个乍听离谱的判断：**人类大概率会先造出AGI，然后才淘汰最后一台传真机**。 这不是段子。美国政府至今没有全国身份证，用的还是1935年设计的九位社会安全号；国税局的核心系统跑在肯尼迪时代的汇编代码上。哈蒙德是美国创新基金会（Foundation for American Innovation）的高级经济学家，本职工作就是在国会山跟议员们聊AI。生命未来研究所的主持人加斯·多克尔（Gus Docker）请他做了一期长对谈，从AGI时间线一路聊到制度危机，这期节目后来被Nathan Labenz的Cognitive Revolution当作年度精选转发。 他的整套判断可以压成一句话：**AGI可能这个十年就到，而最先被冲垮的，会是反应最慢的那批机构**。 ## 凭什么押2029 哈蒙德判断时间线的方法很特别：不听人说什么，看人做什么。AI安全圈的保罗·克里斯蒂亚诺（Paul Christiano）因为相信短时间线，直接加仓了股票。奥尔特曼在国会作证时说，AGI可能这个十年出现，之后是超级智能，结果田纳西州参议员玛莎·布莱克本追问的是音乐版权怎么办。**人们把奥尔特曼当真，但不按字面意思当真**，问版权问题本身就暴露了他们心里的时间线还很长。 定义之争他懒得掺和。杨立昆（Yann LeCun）说AGI还有几十年，因为他把AGI定义成从白纸开始、像婴儿一样学习的系统。哈蒙德直接换成「人类水平智能」：今天的模型用人类数据训练、复现人类产出，本质是在间接模拟大脑。他写过一句被主持人专门引用的话：AI可以靠模拟人类数据的生成器来进步，这个生成器就是大脑。图灵测试的原意也在这里：**无法区分，就暗示能力**。一个系统能写出领域专家分辨不出真伪的论文，再争它算不算「真AGI」就是学术游戏了。 更硬的证据来自信息论。研究机构Epoch AI有个「直接法」预测，把三个变量拼在一起：大脑处理的信息熵、算力增长曲线、AI缩放定律。结论是人类水平AI的中位估计在2029年，均值2036年，作者本人私下更倾向2029到2030。这还是上限，因为它是暴力逼近，认知科学、模型蒸馏和数据筛选都会再加速。这套土办法有战绩：1999年雷·库兹韦尔在《灵魂机器的时代》里预测2029年前后AI通过图灵测试，细节猜错了不少，主线押中了。 算力是主要瓶颈吗？他的回答干脆：是主钥匙，但不是全部。Transformer是通用函数逼近器，样本效率又高，算力可以兑换数据和算法上的短板。至于哪条架构路线最终胜出，他借了经济学家朱利安·西蒙当年对赌保罗·埃利希的逻辑：**不需要预知页岩气革命长什么样，油价够高，就一定有人去找新油田**。全世界的天才和资本正在淘金，总有人挖到。 还有一个来自神经科学的旁证，叫「普遍性」：独立训练的神经网络，哪怕数据不同，也会收敛到相似的内部表征；大脑的视觉皮层和深度卷积网络几乎是同构的。原因之一是能耗，大脑吃掉人体四分之一的热量，能量约束把可能的表征空间压得很小，简洁的压缩解就是泛化解。把这套逻辑套到进化史上：地球生命在宇宙137亿年历史里出现得非常早，天文学家阿维·勒布等人算过，把行星冷却、重元素诞生这些前置条件排完，生命几乎是在刚可行的瞬间就出现了。每个艰难步骤跨过去之前看着不可能，跨过去就进入自我强化的循环。**AGI就是这样一个艰难步骤，核心配方已经找到，我们正处在慢起飞里**。这也解释了暂停公开信为什么徒劳：博弈结构锁死了路，一旦有人绊到金矿，就拦不住涌向那里的淘金者。 ## 传真机悖论：这次自动化卡在哪儿 过去自动化的剧本是：跟IBM签合同，花几百万请咨询顾问，搭一套不好用还得天天维护的定制系统。所以大家默认AI再强，也会被实施摩擦拖慢。 哈蒙德认为这个直觉过时了。旧自动化要把鞋匠的手艺拆成机器能重复的简单动作，把任务降维；AGI的核心恰恰是通用性，**它直接嵌进人类设计的现有流程，顶替那个位置上的人，流程一行都不用改**。 > 我们大概率会先拥有AGI，然后才淘汰最后一台传真机。 关键能力是上下文学习。多模态模型可以看你干活，看一两个小时，然后接手。谷歌DeepMind的Q-Transformer已经证明，机器人看人类示范不到一百次就能学会新任务。替代当然分行业渐进，可靠性门槛各不相同：自动驾驶性能已接近人类，监管要求好上一百倍才放行；编程模型离顶级程序员还远，所有人都在用，因为哪怕一半代码要返工，生产力也是暴涨。有研究评估GPT-4做论文同行评审，结论是「与人类评审意见惊人相关，但会漏掉要点，无法取代人」。哈蒙德的点评：这类结论，等五年再看。 他引用科幻作家拉梅兹·纳姆的著名图表：国际能源署每年预测太阳能装机，每年画一条平线，真实曲线在垂直起飞。人脑为几千年不变的狩猎采集社会进化，自带自回归偏差，总把指数当渐近线。 工作会不会消失？「劳动总量谬误」说工作总量固定，这个想法是错的，需求会填满供给。凯恩斯1930年代预言的休闲社会其实部分成真，人们确实在少干活，事实上的四天工作制已经出现。哈蒙德补了四条AGI时代的就业缓冲：休闲继续增加；「世界线」溢价，原子级复刻的《蒙娜丽莎》在拍卖行卖不出价，人们买的东西里包含历史；位置性稀缺，地段和学区永远抢手；锦标赛结构，AI碾压人类之后，下棋的人反而比历史上任何时候都多，观众要看的是人。 高薪职业的剧本他拿律师举例。互联网之前，美国律师收入围绕六万美元正态分布；互联网之后变成双峰，一峰还是六万的家事律师，另一峰是靠Westlaw这类检索工具放大产出的顶级律所。**AI先当副驾驶，造出百倍效率的律师，然后绕开执业牌照的垄断**。把验血报告丢给GPT-4要一个诊断，没有监管机构拦得住，它成了终极版的无国界医生。教育则会重新打包：AI负责因材施教，人类负责社交和陪练，未来接住孩子的可能是棋院和柔术馆，学校这个捆绑包会被拆开重组。 ## 肯尼迪时代的代码，接不住2029年的AGI 美国政府准备好了吗？哈蒙德的回答一个字：不。 除了汇编代码，他还搬出法学家尼古拉斯·巴格利的概念「程序崇拜（procedural fetish）」。1970年代以来，美国政府把一切动作写进显性流程，好处是能自动驾驶，代价是失去裁量空间，还给反对者开了无限诉讼的口子。金门大桥当年四年建成，现在修条引路要十年；纽约给一座桥收拥堵费，光环境评审就拖了三年多，因为反对者一直在告。对比曼哈顿计划：奥本海默和格罗夫斯将军把项目当创业公司跑，秘密管理十万人，三年造出原子弹。同样的项目放到今天，流程是发标书、竞标、选最低价，大概率洛克希德·马丁中标，二十年工期，五倍预算，交半颗原子弹。**流程是把过去有效的做法结晶固化，等生产方式变了，你连「修改流程的流程」都找不到**。 历史规律摆在那里：每次重大技术变革之后，都跟着一次制度变革。农业革命催生城邦，印刷机终结封建制，工业化逼出罗斯福新政。印刷时代的剧本尤其值得细看：英国的印刷许可制度在1634年前后崩塌，五年后英国内战开打。互联网重演了这一幕，突尼斯小贩自焚的视频同步了千万人的愤怒，阿拉伯之春直接换了政权，西方民主国家也没躲过随后的民粹浪潮。哈蒙德的判断很平实：**技术大幅改变社会的成本结构，制度变迁就会跟上来**。 具体到AI，冲击路径已经看得见。官僚机构本质上是「长着人肉的API」，大量工作是打印PDF再扫描回电脑。微软把Copilot预装进Word、Excel和Teams，而微软是美国政府最大的IT供应商。劳工统计局写就业报告的分析师，迟早会走进办公室按一个按钮，让Excel自己找出五个最有意思的趋势并生成图表。私营部门里这个人会被转岗，政府里的位置却粘得多。**哈蒙德真正担心的，是私营部门用AI狂奔、公共部门原地踏步，政府服务被私人替代品一口口吃掉**。 有没有正面案例？爱沙尼亚。苏联解体留给他们一张白纸和一群有黑客文化的年轻公务员。他们造出X-Road，一个密码学保护的分布式数据交换层，比区块链概念早了十年。孩子在爱沙尼亚出生，登记系统自动倒计时，到年龄自动入学；福利一周到账；一张卡既能坐公交也能注册公司，政府变成了平台。教训是制度现代化做得到，难的是路径依赖，这个十年的考题就是「抵达爱沙尼亚」。 ## 监控成本崩塌，利维坦换了个方向生长 哈蒙德的分析底座是科斯的交易成本理论：企业边界由监督、议价、搜寻三类成本决定。政府同理，修路之所以是公共工程，因为跟五百个地主逐个谈判的成本太高。他还顺手给了个妙喻：丹麦这样的国家像互助保险公司，新加坡像一家股份公司。 AI把这个成本结构砸了。委托代理问题的前提是代理人会偷懒、会偷钱，**一个全天候工作、分文不取的AI代理，让代理成本趋近于零**。动视暴雪已经用大模型监听《使命召唤》的语音聊天，过去靠屏蔽关键词，玩家用「被去生命化」代替「被杀」就能绕过；语言模型直接理解语义，绕无可绕。微软365的副驾驶让经理一句话问出「本周谁效率最高」。理论上，每家装一个摄像头，持续提示它「现在有人在犯罪吗」，技术上毫无障碍。 他提醒大家别犯「无马马车谬误」：当年把汽车看成没有马的马车的人，全部错过了高速公路、经济地理重构和联邦官僚体系的扩张，**二阶效应往往比一阶效应更猛**。互联网的一阶效应是假新闻，二阶效应是真实事件以误导性的频率重复传播。谢林在《微观动机与宏观行为》里写过球场起立看球的连锁反应：每个人只做了理性选择，最后所有人都站着，视野没有变好。社会运动同理，没有谁在「滥用」什么，桥就是这么塌的。 AI还在调高整个宇宙的信息分辨率。步态能识别身份；几十年前的星系巡天数据用新模型一跑，挖出被漏掉的天体；有论文证明从Zoom的音频里就能重建敲键盘的内容，包括密码；Wi-Fi信号的扰动可以隔墙重建人体姿态；fMRI数据加扩散模型能粗略还原你脑子里想的画面；仅凭视频识别谎言的系统准确率已超过95%。这意味着**今天留下的任何录音录像，都会在未来被回溯解析**。大家以为自己匿名了，其实每个人都在不断抖落标识物，逗号的位置和爱用的副词都在出卖你，密码圈的人为了反侦察，会把文字先翻成法语再翻回来。 这就是他谈霍布斯式利维坦的入口。危险未必来自政府强推，更多来自自愿：用户主动装Ring门铃和Alexa，等于自下而上造了一个没人能申诉的监控网。技术放大个人能力时，社会有三条路：交权给利维坦、做适应与缓解、等规范演化。人人有透视眼镜的世界，要么铁腕收缴，要么协调着不戴，要么习惯裸奔。开源圈的信条他泼了冷水：美国人人可能持枪，换来的是英国那种连警察都不带枪的松弛感没有了。**七百亿参数的开源模型没问题，隔墙透视和99%准确率的测谎模型，没必要急着传Hugging Face**。他同时承认，开源只能延迟，挡不住，算力成本会一直下渗。 ## 默认剧本：2040年代的微型君主国 把所有线索拧在一起，哈蒙德写了一版「默认剧本」，假设西方民主国家改革太慢。他还写过一组「分离焦虑」的文章做铺垫：保险池在精算能力提升后会解体，高风险和低风险各归各池；公司里20%干80%活的人，一旦被监控技术识别出来，工资压缩就维持不住。AI会把这种按风险分层的趋势推遍所有领域，一星乘客配一星司机，满分信用的人住进同一个社区。 时间表是这样的。 - 2024到2027年，互联网巴尔干化。Reddit和Stack Overflow关API，谷歌搜索质量已经因为数据私有化开始退化；网站转向真人身份验证；AI原生的恶意软件出现，他拿1988年迫使早期互联网分区隔离的莫里斯蠕虫作比；算力和电信基础设施国有化启动，欧盟用GDPR和AI法案筑自己的墙。 - 2028到2031年，对齐问题比想象的容易。早期「回形针最大化器」式的恐惧建立在AI是简单算法的假设上，而LLM对人类软性价值概念出奇敏感。他保留一分清醒：RLHF训练出的可能只是诚实的深度伪造，就像猫狗演化出内疚的表情只为换取零食；但表征趋同的证据让他相信这些模型不会太异类，可解释性研究在实质推进。 - 2036到2039年，机器人被「NLP化」。自然语言处理曾经分成十几个子学科，Transformer一来全部作废；波士顿动力的专用控制模型正处在同样的旧政权，特斯拉转向端到端网络时性能短暂下滑，随后更稳。已有一个完全开源的机器狗模型，用H100跑了相当于一万年的人类训练与模拟量，能跳沟爬楼梯。 - 2040年代，家用电脑就能训练GPT-5级别的模型，任何不把算力成本下降算进去的AI安全协议都会失效。政府职能持续外包给私人城市、业主委员会和封闭社区，许可审查下沉到电信基础设施层，美国变成微型辖区的群岛，政治经济像海湾君主国，只是复数。超级智能也属于这个年代的故事。 他半开玩笑地收尾：谁能拦住「加州自由市」的万亿身家机器学习工程师，把一台人形超级计算机接上聚变反应堆开机？ 技术封建主义这个词他强调是描述性的，不必然反乌托邦。Uber和Airbnb都不黑暗，很多国家的私人机场比美国的公立机场好得多，只是世界变得更对抗、更难协调。罗马帝国的碎裂客观上给文艺复兴的城邦竞争腾了地方，接下来几十年可能也是科学与技术的文艺复兴，代价是，遇到需要大规模跨国协调的元风险时，一个碎裂的美国帮不上忙。 另一条路他叫「受约束的利维坦」，借自阿西莫格鲁的《狭窄的走廊》。自由主义的底色其实是一个强有力的非人格化政府，能执行法律和税收。既然AI在社会的扩散快于在政府的扩散，答案就藏在问题里：**加速政府在AI上的采用，让制度与技术共同演化，赶在被替换之前**。问题从「要不要建一个新AI部门」换成「所有现有部门怎么变」。 ## 明天就能用的四件事 - 校准自己的时间线感。看到「AI做不到X」的结论，默认加五年再看一遍，国际能源署的太阳能平线每年都在重演。 - 职业上往分布的高峰挪。律师收入双峰化的剧本大概率在更多行业重演，尽快成为AI副驾驶的重度用户，做那个百倍效率的人，而不是跟工具比手速的人。 - 把每次录音录像当成永久公开。Zoom里敲密码、镜头前的脸和声音，都会被未来的模型回溯解析，敏感信息现在就按「终将泄露」处理。 - 想跟进原始材料的，直接去读Epoch AI的「直接法」预测和哈蒙德的「AI与利维坦」系列博文，比二手转述扎实得多。