中国 AI 政策文件里为什么找不到 AGI 这个词

2025 年 8 月，中国中央政府发布了一份叫“人工智能+”的顶层文件。这是未来几年中国怎么发展、怎么部署 AI 的完整蓝图，六大支柱从科学发现一直排到国际合作。整份文件里，AGI 这个词一次都没出现，超级智能也没有，任何“终点线”式的说法都没有。

这个细节值得停下来想一想。在美国的 AI 叙事里，AGI 时间表几乎是所有讨论的锚点，2027 年、2029 年、某个递归自我改进的临界点，大家吵得不可开交。同一时间，中国最高层级的政策文件压根不讨论这件事。

Brian Tse（谢旻希）在北京创立了 Concordia AI，一家专注全球 AI 安全与治理的社会企业。他在 Cognitive Revolution 这期节目里，和主持人 Nathan Labenz 聊了将近两个小时，主题是“中国的 AI，是不是和我们一样”。他给出的答案比大部分人预想的更接近“是”。

一个在东西方之间来回走了十年的人

谢旻希的履历横跨两个体系。他在清华做深度学习硬件，赶上了中国深度学习起飞的那一波，AlphaGo 之后开始关心 AI 治理的大问题。之后去英国，成为牛津未来人类研究所旗下治理 AI 中心（Centre for the Governance of AI）的政策研究员，在伦敦 DeepMind 做过演讲，也在 Partnership on AI 做过高级顾问。2019 年前后，他给 OpenAI 做过外部咨询，参与早期大模型（包括 GPT-2）的社会影响评估和发布策略讨论。回到北京后，他在北京智源人工智能研究院工作，参与撰写中国机构最早的 AI 伦理原则之一。

然后他创立了 Concordia AI。三条业务线：参与国家标准委员会、给政府部门做专家咨询；直接和头部 AI 实验室合作开发安全框架；办论坛、做研究，帮国际社会读懂中国和亚洲的 AI 治理实践。

Nathan 问他，Concordia 最像美国的哪家机构。谢旻希说没有完美对应，但主持人自己提了一个：Far AI，Adam Gleave 那家。谢旻希认可使命上有很多重叠，同时指出一个关键区别，Concordia 深入参与中国的国家标准制定，这是很多西方同类机构没有的角色。

中国 AI 版图，比“五家live player”更分散

Nathan 描述美国是五六个“live player”高度集中在湾区，彼此认识多年，共享同一套文化记忆（读过同样的文章，吵过同样的辩论）。他请谢旻希画一张中国版图。

谢旻希给出的分布是：北京有百度、字节，也有月之暗面（Kimi）和智谱，后两家创始人都是清华校友；上海有 MiniMax 这类多模态方向的强队，世界人工智能大会也在上海；杭州有 DeepSeek 和阿里巴巴，2025 年当地还冒出“杭州六小龙”的说法，其中包含 DeepSeek 和两家机器人公司；深圳有华为和腾讯。

AI 安全研究也一样分散。Concordia 的《中国 AI 安全现状》报告统计到大约 31 个发表过 AI 安全论文的中国研究团队，前五城市是北京、上海、杭州、深圳、香港。

一个文化差异被谢旻希点了出来：中国这些城市里，技术生态和政策生态是交织的。美国硅谷和华盛顿之间有明显文化断层，中国这边政策圈和产业圈的看法更连贯。

80% 的中国学生相信 AI 利大于弊

节目里聊到公众态度。Concordia 梳理的民调显示，中国公众普遍认为 AI 的好处大于风险。一项 ChatGPT 之后的调查里，公众承认 AGI 可能存在生存性风险，但仍然支持继续开发，理由是风险大体可控。另一项针对中国学生的调查里，大约 80% 的受访者同意 AI 对社会的益处多于害处。

谢旻希给了一个家族样本。他父母 60 年代出生在福建，在他们这一代人的时间里，中国人均 GDP 涨了 140 多倍，极端贫困率从 80 年代初的约 88% 降到今天接近零。亲眼见过这种量级的改变，对“技术加治理能带来什么”的判断会更乐观。

Nathan 追问：中国的 AI 未来图景到底是什么？美国这边常听到“治愈所有疾病、解决所有问题”，但很少有具体的生活想象。谢旻希搬出了那份“人工智能+”文件，六大支柱：

• AI 作为科学发现和创新的工具，被列在第一位，官方视其为其他一切的倍增器
• AI 推动产业转型，包括全自动工厂、智能物流、农业无人机和机器人
• AI 拉动消费，包括新消费体验、脑机接口这类方向
• AI 作为人类协作者，关键词是“辅助”而不是“替代”，AI agent 当副驾驶提效
• AI 提升政府效率和治理能力
• AI 促进国际合作，把开源模型作为国际公共产品，重点面向全球南方

Nathan 提了一篇几年前的《华盛顿邮报》专栏，作者是中国官员，大意是有了强 AI，中央计划终于能真正运转。谢旻希的回答很直接：这种想法在中国政策讨论里太乌托邦了。他举的实际例子是 AI 用于自然灾害预警系统，让政府更早拿到实时数据、提前准备，是在边缘上改善，不是解决社会问题的银弹。

31 类风险，96% 通过线，500 个已备案模型

这是整期节目信息密度最高的一段。Nathan 描述美国的现状：xAI 在 Grok 3 自称“MechaHitler”的同时照常发布 Grok 4，几乎没有任何前置审批。他问中国这边企业上线一个消费级产品要过什么关。

谢旻希的回答：面向公众的聊天机器人必须先备案。流程相当繁复。开发者要按国家标准做安全测试，这套标准覆盖 31 类风险。国家网信办在部署前拿到模型访问权限，审核通过才能上线。两年多时间里，已经有超过 500 个系统和模型版本完成备案。

Nathan 追问门槛细节。得到的回答是：备案模型名单是公开数据库，可以查。部分测试有具体数值目标，比如一组问题里至少 96% 的输出要被判定为可接受。企业还要给属地网信部门开测试账号，监管方在部署前实测模型，过程可能多轮反馈、重新微调、再沟通，直到监管满意。这套机制看起来接近一种牌照制度。

Nathan 对 96% 这个数字的反应很有意思。他原本对“中国互联网上说什么会被删”的印象是远高于 4% 的容错率，问这是不是技术不现实条件下的妥协。谢旻希给了一段监管演化史：生成式 AI 监管办法初稿里，曾有“确保大模型输出高度可靠和真实”这种近乎完美的表述。三个月的公开征求意见期里，产业界提出技术上做不到，最终稿就放松了。这是政策目标和技术的现实约束之间的一次真实让步。

还有一层治理在模型之外。北京市对医疗场景的 AI 聊天机器人有专门规定，医院和医疗机构不能在没有人类介入的情况下让 AI 开处方。模型输出是一层，机构使用是另一层，信息传播是第三层。

注册制度的边界也清楚：内部研究用、纯 B2B 部署不适用，只要做成面向公众的聊天机器人或推荐系统，一整套约束性规定就套上来。Nathan 问小开发者有没有快车道，比如只是套壳 DeepSeek。答案是没有。

“刹车不灵，你不敢踩油门”

AI 安全在中国被抬到了什么位置？谢旻希给的时间线：2024 年三中全会，最高层提出建立 AI 安全监管体系，把 AI 安全列为重大公共安全问题。2025 年 2 月，国家应急响应预案更新，AI 风险第一次和网络安全、生物安全、自然灾害并列写进去。2025 年 4 月，政治局就 AI 举行集体学习，最高领导人的讲话提到 AI 带来前所未有的发展机遇，也可能带来前所未有的风险挑战。会议通稿比以往的高层表态在安全上细致得多，描述了从技术监测、早期预警到应急处置的分阶段风险管理。

Nathan 问了一个很关键的问题：美国白宫也开过 AI 会议，说完就翻篇了，政府换届后连 EO 都保不住。中国这些会议和表述到底有多少实际分量？

谢旻希的回答落在两个词上。连续性和一致性。中央定了方向，可能是跨越多年甚至几十年的承诺，会在政府和全社会层面被执行下去。美国这边，一任政府的 AI 行政令可能撑不过下一任。政治局定调之后，执行路径更统一，不像美国要在白宫、国会和各方之间来回拉扯。

他还提了几个观察。中国公众对政府的信任度较高，对监管的接受度也更高。学者对政策的影响很实，有几位深度担忧 AI 灾难性风险的中国学者，通过集体学习或其他渠道直接给最高层做过汇报，这和中国几千年“士”的社会地位有关，也意味着政策更不容易被商业游说俘获。AI 安全讨论在中国的极化程度也低一些。美国从“立刻暂停”到 e/acc 的谱系拉得很开，中国 discourse 更靠中间。

Nathan 追问安全和能力的权衡。谢旻希引了丁薛祥 2025 年初在达沃斯的一个比喻：刹车系统不受控，你不敢放心踩油门。他补上自己常用的说法，45 度线，能力和安全一起走。在所有分析过的中国政策文件里，安全和能力从来是并肩的，不是零和。

框架长得几乎一样

Nathan 读完 Concordia 和上海 AI 实验室合写的前沿 AI 风险管理框架后说了一句话：把名字抹掉，他分不清这是哪个国家写的。风险分类、概念框架、对失控的理解，相似度极高。

这份框架做的事：帮通用 AI 模型尤其是前沿模型的开发者管理公共安全和国家安全层面的关键风险。借鉴安全关键行业和国际共同体的最佳实践，定义了一组“红线”作为不可逾越的阈值，和一组“黄线”作为触发强化安全措施的早期预警指标。覆盖网络攻击、生物风险、大规模操纵说服、失控风险。

配套的技术报告评测了 20 多个开源和闭源模型。失控这一项拆成几个危险能力和倾向：自我复制、欺骗与谋划、产生不受控的 AI 研发。

Nathan 提到 Dario Amodei 曾说 DeepSeek-R1 是他们测过的“护栏最少”的模型，问生物武器相关查询上几乎不设防。谢旻希给了几条线索。中国的 AI 安全路径主要由政府的约束性法规和标准驱动，副作用是企业可能不太愿意主动公开法规没直接要求的评测结果。现有合规成本压低了企业承担额外安全措施的胃口。Concordia 的行业报告盘过所有中国开发者的实践，训练数据过滤、安全微调、RLHF、宪法 AI、实时滥用监测，标准动作都在，但主要对齐的是那 31 类监管风险，绝大多数企业没有公开 CBRN 或失控风险的评测结果。

然后他给了更新的数据。DeepSeek-R1 的论文去年上了《自然》，这是第一个被同行评审的主流大模型。论文的安全评测部分写得挺坦诚：开源权重模型容易被进一步微调削弱安全保护，推理模型倾向于暴露更多敏感或危险知识。但论文结论是 R1 的安全水平与其他前沿模型大体相当，包括 GPT-4o。Concordia 自己做的独立评测也看到了改进：在 SOS-Bench-Bio 基准上，DeepSeek 对有害生物提示的拒答率从 V3 的约 11% 涨到 V3.1 的约 54%，中位数水平。

为什么敢不买 H20

Nathan 抛出一个他反复琢磨的细节。美国政府放开 H20 销售，中国企业却不买了。如果真在不顾一切冲向 AGI，不是应该能买多少买多少？

谢旻希先给了事实：截至 9 月 22 日，中国企业不买 NVIDIA 的 RTX Pro 6000D，认为质量偏低、价格偏高。对 H20 的不信任是具体的，监管方提出过对后门、远程定位追踪、远程关机控制的担忧。

然后是三层解释。第一，力量平衡在变。特朗普 1.0 打贸易战、拜登政府层层加码出口管制的时候，中国准备不足；现在中国在展示它不依赖美国的技术未来，而美国在关键矿产上反过来依赖中国。第二，国产 AI 芯片的信心在涨。出口管制反而成了国产替代的催化剂。华为昇腾系列进展明显，本月刚发布 Atlas 950 Super Node，单节点支持 8000 多颗芯片，Super Cluster 规模超过 50 万颗。中国产业界不想被绑在美国技术栈上，现在是一个关键窗口。

第三层最有意思，是能源。Nathan 提到西方分析界的主流判断：未来五年西方加台积电的产能仍会高出一个数量级。谢旻希不否认单芯片性能差距，但换了一个维度。中国可以用能源丰裕度弥补单芯片劣势。华为的 Cloud Matrix 384 用了五倍多的昇腾芯片，弥补了每颗芯片不如 NVIDIA Blackwell 的短板。如果主要代价是能效，中国不太在乎，因为过去十年中国新增的电网容量相当于整个美国电网，其中很大一部分是可再生能源，全球最大的光伏、水电、风电装机，核电部署也可能领先。中国技术栈可以优先规模，而不是功率密度。

加上算法侧的效率。DeepSeek-R1 那篇《自然》论文里提到训练成本大约 500 块 H100，产出性能相当可观。

MAIM 这个想法为什么站不住

节目后半段转向中美信任。Nathan 引了 Dan Hendrycks、Eric Schmidt、Alex Wang 那份超级智能战略文件里的“相互确保的 AI 失灵”（MAIM），承认至少有人在勾勒稳定均衡，但他自己也不觉得这个思路能立住。谢旻希的批评更系统。

第一，AI 世界里没有清晰可观测的红线。核威慑的逻辑成立，是因为使用核武器是可探测事件，核试验或洲际导弹发射瞒不住。AI 如果以“激进的超级智能部署”为触发点，这在实践中是什么意思？模型能完成任务的 METR 曲线每七个月翻一倍，图上的哪个点算进入智能爆炸？从中国视角看，美国一些 AI 领袖已经在谈 2027 年 AGI，同时在推出口管制，一方完全可以合理想象另一方正在冲刺超级智能垄断。这算不算触发 MAIM？最好不算。

第二，升级失控的风险。如果国家公开背书这套战略，等于宣告彼此开战的意愿。那不是攻击一个数据中心的问题，是摧毁另一个国家最有价值的国家资产和最关键基础设施之一。这不是稳定方案，是给 AI 灾难风险装了一个一触即发的警报。

他给了自己版本的三根支柱。第一，主要 AI 大国之间定义一组针对前沿 AI 的具体红线，对能力和行为设限，比如禁止开发对人类构成灾难性或生存性风险的系统、禁止 AI 助推大规模杀伤性武器扩散、禁止自主 AI 自我复制自我改进到人类或其他国家无法理解和控制的程度。第二，持续测试和评估早期预警指标，理想状态下建立一套共享协议，让各国和头部 AI 公司互相分享最相关的评测结果。第三，预设应急响应协议，一旦触发预警指标，该启动什么措施、该由谁来做、人类监督该在哪个环节介入，都要提前写好。危机时刻，有一份准备好的方案，比让风险自然升级要好得多。

普通人能做什么

节目结尾，Nathan 请谢旻希给建议：一个没去过中国的普通人，能做什么让世界稍微好一点。

谢旻希说了几件事。第一是更多人对人的交流和理解，走出新闻标题，建立更细致的认知，这也是 Concordia 一直在做的事，把中国、新加坡、亚洲的 AI 安全部署情况写成英文报告，也把西方的经验吸收进来。第二是来中国参加 AI 会议，每年夏天的世界人工智能大会是一个讨论前沿创新、治理和安全的丰富平台。第三是慈善投入。AI 安全慈善还处在很早的阶段，有点像几十年前的气候科学，现在进场意味着能成为这个关键领域的早期塑造者。

Nathan 追问怎么判断什么在起效。谢旻希给了两个可操作的指标。一是看有没有在讨论此前没人谈、但重要且紧迫的议题。Concordia 最近办了一场聚焦危机准备的国际对话，讨论 AI 如何被用于对关键基础设施发动大规模网络攻击，他们发现政策制定者和高层决策者大多对这个未来几年内可能发生的场景感到意外，那场对话创造了一个让人提前准备的空间。二是看能不能产出共识文件。Bletchley 宣言、国际 AI 安全报告、Global AI Bio Forum 的声明，每一次都在把国际讨论的奥弗顿窗口往外推一点，反复证明有些事是可以达成一致的。

对读者来说，最直接可操作的是三件事。第一，下次听到“中国肯定不会停下来”“中国不在乎 AI 安全”这类论断时，先问一句：这个判断的依据是什么？第二，去读 Concordia 的报告，全部用英文写的，公开可查，31 类风险、96% 通过线、失控风险框架、DeepSeek 拒答率的变化，都有原始材料。第三，如果要做慈善，把 AI 安全慈善当成几十年前的气候科学来看，早期进场的边际价值最大。

“如果你担心先进 AI 是在秘密开发的，这不符合 AI 部署的现实。中国最先进的模型大多是公开释放的，Kimi、MiniMax、Qwen、DeepSeek，现在都是全球最好的开源模型之一。”谢旻希在节目里说。

Nathan 在开场白里写了一句他自己的判断：这份来自中国本土 AI 安全领域一线从业者的报告，至少应该让人有勇气，把举证责任放在那些用“中国会怎么做”来为自己激进计划辩护的人身上。这句话可以是这篇文章的落点。