# Hill and Valley Forum 三人对谈：中国开源模型已经很强，美国真正的风险是自己不肯用 > Cognitive Revolution No. 141 中文精读 - 原标题：The Implications of AI on the Global Balance of Power with Alex Wang, Andrew Ng, Jack Clark and Cory Booker - 发布日期：2024-06-04 - 主持：Nathan Labenz - 网页版：https://cogrev.1mmt.com/ep/141-the-implications-of-ai-on-the-global-balance-of-power-with-a-SuSQpn.html - 精读字数：约 4027 字（阅读约 9 分钟） > 本文为 cogrev.1mmt.com 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 2024 年 6 月的一场对谈，把三位 AI 一线人物放在同一张桌子上。场合是 Hill and Valley Forum，一个由美国国会议员和科技从业者组成的私密两党社区，议题是国家安全。主持人是新泽西州参议员 Cory Booker。 三位嘉宾的分量都不轻：Scale AI 创始人兼 CEO Alex Wang，Anthropic 联合创始人 Jack Clark，AI Fund 管理合伙人 Andrew Ng。Andrew Ng 发表过 200 多篇 AI 研究论文，也是 Coursera 的联合创始人。 播客 Cognitive Revolution 的主持人 Nathan Labenz 在节目开场加了一段自己的保留意见。他欣赏这三位，也认同他们的多数判断，但整场讨论大量建立在美中竞争的框架上，这让他不安。他的原话大意是：AI 时代真正的「他者」是 AI 本身，如果习惯用「我们对他们」的方式思考，就会做出糟糕的决策。 这段话值得放在前面，因为接下来三位的发言里，最有信息量的部分恰恰是关于「对手到底有多强」和「自己到底有多慢」的判断。 ## 用管太阳能板的方式管家电，是当下最大的错位 Booker 的第一个问题很直接：AGI 的恐惧是不是被夸大了。 Andrew Ng 的回答是可以拆成两半的。恐惧有其真实性，未来确实可能出现非常强大的 AI 系统；但今天的 AI 已经在产生大量正面价值。他的主张是把讨论科学化：这些算法的能力边界在哪里，能力如何演化，什么时候真的需要开始加控制。 他点了一个容易被忽略的进展。美国 NIST 下面已经设立了 AI Safety Institute，英国设了，日本在设，韩国在设。**一个围绕「如何判定模型是否值得担忧」的全球测试体系正在成形，这比情绪化讨论有用得多。** Jack Clark 补了一个类比。如果 AI 是新的电力，现在争论怎么监管所有能插进插座的东西，会把人逼疯。该做的是产品安全测试这类标准，一套全球共享的框架，同时避免限制竞争、掐死一个刚起步的生态。 Ng 接着说了他过去一年最不满的现象。一批花了几十亿美元训练基础模型的机构，在呼吁限制开源、关停创新，理由的安全担忧还在不断漂移。一年前是 AI 会接管并杀死所有人，接着是生物武器风险，然后是网络防御风险。AI 有风险，但用他的类比，现在像是在监管太阳能板制造商，要求对方保证发出的电子对家电是安全的，这件事做不到。 他的替代方案是管应用层：要安全的自动驾驶汽车、合理的核保软件、安全的医疗器械，就去管这些应用，别去管技术层。 Clark 给了一个从创业公司视角出发的补充。你创办一家 AI 公司时可能对国家安全没兴趣，但国家安全对你有兴趣。所以需要测试机制，确保不会无意中让某个非国家行为体做出有害的事。除此之外，尽量沿用 FDA、FAA 这类现有监管和测试程序，不必新建一整套基础设施。 Ng 还反对一个常见词汇：dual-use，军民两用。核技术、火箭算两用，AI 不算。**AI 是多用途技术，军用场景存在，但民用场景的数量远远更多，用两用的框架去限制，会把民用创新一起压死。** Booker 举了无人机的例子。他在商务委员会任职时，FAA 负责人到场，当时无人机产业正在爆发，欧洲已经用无人机勘测矿场、维修电线，美国除了电影行业几乎不发牌照。他当场说，如果 FAA 在莱特兄弟的年代就存在，飞机根本飞不起来。他也承认另一面：社交媒体需要监管，那里正在发生很糟糕的事情。 ## 五角大楼的问题是用得太少，不是管得太松 Booker 追问，有没有哪个领域是你们真的希望国会出手的。两位嘉宾又把话题拉回了国防。 Alex Wang 说，国防和国家安全领域的问题恰恰相反，是 AI 用得太少，现代化程度不够。国防部被大量流程和官僚捆住手脚，而这些流程服务于一个技术缓慢演进的时代。**看中国和俄罗斯，他们愿意并且能快速把前沿技术整合进运作的每个环节，速度远超美国在现有官僚框架下能做到的水平。**他说自己最大的恐惧是自己一方用得不够，从而失去竞争力。 Clark 被问到「如果让你去参议院提一份法案会提什么」，回答是推动各部门积极部署实验性技术。Anthropic 内部的观察是，越是用这项技术，越能发现它能帮上忙的地方。同时要有测试和度量机制，看技术是否有效，无效就修，修不好再考虑额外监管。他重复了同一个判断：最大的风险是不用。私营部门正在靠试验把自己变得更快更聪明，国家层面不做，别的有创业精神的国家就会做成。 Ng 的赛跑比喻更清楚。赢一场赛跑有两种方式，一种是绊倒对手，一种是跑得更快更狠。美国可以做的后一种事很多：投训练、投教育、投技能升级，投算力基础设施，改进拨款流程。 他还提了一个少被讨论的风险。今天很多国家从美国的对手那里购买监控软件，这削弱了美国对人权和隐私议题的影响力。如果华盛顿的窒息式监管把美国公司挤出供应链，别的国家就会用替代品。**将来有一天，当有人问一个大语言模型「你怎么看民主」，他会希望那个回答反映美国的价值观，而不是别人的价值观。把自己挤出供应链，等于打进自家球门的乌龙球。** ## 被 RAND 低估的中国：分布式训练与清华的论文 Booker 引用了 RAND 公司的一个判断：由于美国在私营部门创新上的优势，中国不太可能产生重大的 AI 新突破。他问这说法成立吗。 Alex Wang 的回答是强烈不同意。世界上最好的开源模型里，有一些就是中国公司做出来的，这是他们追赶速度的一个直接证据。他随后给出一个「三重打击」的判断框架：一是技术进展速度前所未有，投资增速和科学进展都快过近几十年任何一项技术；二是全球冲突水平在持续上升，看不到降温的出口；三是习近平和普京这样的人物接近执政晚期，会更激进、更愿意冒险，做出更大胆的动作。三样凑在一起，是一个火药桶。 Clark 的补充更尖锐。在这场活动上，很多人说中国只会快速跟随、只会抄。AI 领域不一样，中国有优秀的发明家和研究者。面对出口管制，他们在分布式训练上做出了相当出色的工作，在提升训练效率的底层环节上也有很多积累。 > 低估他们的发明能力是极其愚蠢的。我们面对的不是一个缺乏创造力的对手，我们面对的是一个和我们一样有创造力、而且更有动力的竞争者。 Ng 从技术路线上给了更具体的证据。现在的 AI 在多个方向同时推进，除了把模型规模做大，agentic AI 是一条主要战线。他用一个类比解释什么是 AI agent：你今天用 ChatGPT 或 Claude 写文章，像是要求 AI 从头到尾不许按一次退格键，一口气写成，这很难。AI agent 的做法是分步：先写提纲，再写初稿，然后批评自己的初稿，再上网检索并改进，结果好得多。 他说，看最前沿的研究文献，清华大学这类机构产出的创新，可能和美国很多大学一样多。**毒已经出了瓶子（the cat's out of the bag）。真正的问题变成：当别的国家下载开源包去实现自己的 agent 应用时，源头主要来自别国供应商，还是美国仍然保有巨大的声音。** ## 中东的钱、算力基础设施与价值观输出 Booker 提到沙特和阿联酋在这个领域的动作，数字令人瞠目，而且他本人和这两国的一些领导人关系不错。他问这该被看成好迹象，还是需要担心价值观层面的问题。 Clark 的回答很实在。想要影响力，就得有基础设施，基础设施决定了谁建系统、谁定规范。他开了个玩笑：谁能想到通往 AGI 的路要经过美国的许可制度改革。要建数据中心，要建电力设施，先把国内的底座建起来，才有资格在海外领先。 Alex Wang 的判断是，不管美国做什么，中东和其他地区都会建起超大规模的数据中心和算力。美国能做的是重复它在互联网、电信上的历史经验，让世界上线的 AI 算力尽可能多地符合美国的价值观和体系。 Ng 的类比是电。爱迪生把电力基础设施现代化之后，其他国家也都有了电，这是好事，带来了全球经济增长和普遍繁荣。很多国家拥有更好的电网是好事，很多国家拥有更多智能，包括人工智能，也是好事。 Clark 还提了一个明确不偏袒自己公司的建议：用美国的超级计算资源去扶持创业公司和学术研究者，帮他们跨过从研究到产品的鸿沟，为大型基础模型公司制造更多竞争者。Booker 当场回应，他本人就是「国家 AI 研究计划」的支持者。 ## 2055 年：三个人给出三种想象 最后一个问题是要他们跳望 2055 年，说一件大多数人还没意识到的事。 Clark 说的是教育。任何人都能学会任何东西，每个人都会拥有一个完全为自己定制的教育计划和导师，任何人对任何好奇的领域都能变成专家。他认为这在技术能力范围之内。 Alex Wang 说的是科学突破。未来几十年通过这项技术取得的进展，会把过去只在科幻里出现的生活慢慢变成现实，他用《杰森一家》形容那个未来。 Ng 说的是智能的价格。**今天智能是世界上最昂贵的东西之一，所以只有富人才能请专科医生仔细看自己的病情，或者请一位有耐心的家教辅导孩子。AI 正在把智能变便宜，几十年后，任何人都雇得起一支训练有素的专家队伍给自己出主意。** Booker 的收尾回应说，他希望结果不是财富和权力的进一步集中，而是更民主的分布。他说天才的分布是均匀的，布基纳法索人均出生的天才，可能不比新泽西最富裕的地方少，人类社会目前低效的地方在于培养天才的方式。他还说，历史课本过度强调了华盛顿、杰斐逊、里根，真正被低估的是那些创新者、科学家。 Ng 最后补了一句，算是给整场对谈定了调：别给我们太多功劳，我们指望你们政客把框架定好、把苦活干完。 ## 明天就能用上的三件事 - **把一项工作拆成四步交给模型。**这是 Ng 关于 agent 的话里最可操作的部分：先要提纲，再要初稿，然后让模型批评自己的初稿，最后让它检索并改进。比一次性要求「帮我写完」的效果好一个档次，今天就能试。 - **在企业内推动 AI 部署，不必等新立法。**Clark 的立场是沿用 FDA、FAA 那套现有测试程序就够。对应的行动是先在内部用一个真实场景跑通，用结果说话，而不是等合规部门给出全套指引。 - **判断中国 AI 能力，去看开源社区里排在前面的模型出自哪些团队。**Alex Wang 和 Clark 都在提醒同一件事：低估对方的创造力是战略错误。看榜单比读政策报告更接近事实。