1700 万月活、40 个获批应用:北京 AI 观察者眼中的中国大模型生态
Inside China's AI Ecosystem: A View From Beijing
匿名北京科技从业者 L-squared 介绍中国 AI 的主要玩家、模型质量、公众参与与监管现状,并对比中美格局与芯片禁令影响。
中国生成式 AI 应用月活第一名,是字节跳动的聊天机器人豆包,2024 年初约 1700 万。美国 ChatGPT 的月活大约 2700 万。两个数字放在一起,差距没有很多人想象中那么悬殊。
这是 Cognitive Revolution 播客 2024 年 4 月 10 日的一期节目,标题是 Inside China's AI Ecosystem: A View From Beijing。主持人是 Nathan Labenz,创业者兼 AI 投资人。嘉宾笔名 L-squared,在北京工作五年,做过中国公司和西方公司,现在关注云计算和基础设施。她在伦敦长大,中文足够让她追踪中国 AI 动态,也为 China Talk 写分析。这期节目由 China Talk 的 Jordan Schneider 牵线。
L-squared 开口先打了预防针:她只提供一个有限视角。Nathan 也自嘲,说自己对中国 AI 的了解,大概属于“去中国两周觉得什么都懂,待一年发现自己什么都不懂”的状态。这期对话覆盖了玩家、产品、监管、开源、芯片禁令和越狱文化,信息量很密。
牌桌上的人:大厂、清华系和缺席的领跑者
中国大模型生态,先分两大阵营。一边是大科技公司,另一边是 LLM 初创公司。
大厂里,阿里巴巴是电商巨头,也是中国云计算市场份额最大的公司。它投资了至少五家 LLM 初创,投资和云资源绑定,初创拿钱,也更容易用阿里的云。腾讯做出了微信,有自己的大模型,也在投初创。百度是搜索巨头,文心一言 Ernie 在中国语言模型基准 SuperCLUE 上排在中国模型前列。字节跳动做出了 TikTok 和抖音,它的聊天机器人产品在 2024 年初的生成式 AI 应用月活榜上排第一。华为在基础设施和云业务上很重要,也是芯片话题里的关键角色。
初创这边,可以再分两类。一类从清华出来。清华是中国计算机科学最强的大学,月之暗面 Moonshot AI 和智谱 AI Zhipu AI 都由清华教授创办,融资和关注度都不低,员工规模只有几百人,模型质量却相当能打。另一类由更成熟的创业者创办。李开复的零一万物推出了 Yi 系列模型,在开源排行榜上表现不错。李开复做过 Google 中国和微软亚洲研究院,公司总部在北京。还有百川智能,由搜狗创始人王小川创办,同时做开源和闭源模型。
Nathan 把中国和美国对比,发现两边更像。大厂有钱、有云、有分发渠道,也自己研发,同时投资初创。差异在于,中国没有一家实验室像 OpenAI、DeepMind、Anthropic 那样,在推动模型能力前沿上形成明确领跑。美国能数出两三家头号玩家,中国则是人人都有机会,也人人都没坐稳。
“他们不得不把赌注撒得很开,因为中国没有真正的领跑者,不像美国只有两三家特别突出的玩家。”
L-squared 还提到,中国圈内有人抱怨基础模型玩家太多,是一种浪费,尤其中国在硬件上受限制。她判断,未来几个月到几年,玩家会减少,行业会更集中。
1700 万月活、6 亿中产,和还没有 ChatGPT 的中国
中国公众对 AI 的认知并不低。主流新闻讨论 ChatGPT 和 Sora,也讨论中国需要自己的对应产品。2024 年中国最重要的政治会议期间,领导人去参观了百度和北京智源研究院,电视新闻有报道。中国电视台还播过 AI 生成的卡通系列。国企也在找 AIGC 服务。
但企业市场没有明确的首选供应商。L-squared 说,很多公司在做概念验证,谁是领先者还太早。消费端倒是有一个参照:字节跳动的聊天机器人月活约 1700 万,美国 ChatGPT 约 2700 万。中国人口是美国的四倍左右,中产规模可能占 40% 到 50%,大约 6 亿人。两边都还在采用曲线早期。
价格上,美国消费级 AI 产品普遍是每月 20 美元,ChatGPT Pro、Claude Pro、Perplexity 都差不多。中国这边,百度文心一言大约每月 8 美元,是少数已经商业化几个月的产品。很多中国 AI 助手还在免费抢用户。投资者圈子里有一种说法:企业级 AI 应用才是赚钱的地方,消费级应用商业化会很难。Nathan 补充,美国可能也有类似趋势,大多数人最终会从雇主那里获得 AI 工具,就像用 Google Workspace 或微软 Office 一样。
文心一言离 GPT-4 有多远,以及被关键词卡住的日常
模型质量是这期节目最具体的部分。Nathan 和 L-squared 在准备时试过百度文心一言 Ernie 4。SuperCLUE 是第三方基准,每几个月更新。在中文模型里,文心一言排在最前面,但即便在这个中文优先的榜上,GPT-4 仍然总分最高。
Nathan 的测试感受是,文心一言和 ChatGPT“更像,而不是更不同”。他让两个模型做编程题,ChatGPT 返回的 Python 代码没有明显高出一截,只是注释是中文,细节有差异。L-squared 自己的体验也类似:中国模型在中文任务上相当好用,和 GPT-4 的差距不大。
问题出在可用性。部分中国应用对敏感词过度敏感,一些完全无害、不涉及政治的问题,可能因为误触关键词过滤而拿不到回答。另一个限制是上下文窗口不够长。在受审查环境里使用这些工具,最大的日常摩擦来自过滤机制和上下文长度,而不是模型完全不会。
可用性上,L-squared 没有遇到资源不足。她使用这些工具时没有碰到“现在过载,稍后再来”的情况。这跟芯片限制似乎还没有直接体现在消费端体验上。
Qwen 1.5 72B 是另一个案例。这是阿里巴巴的模型,在 LMSYS 排行榜上和初代 GPT-4 咬得很紧,一度排进前十,堪称全球开源模型里的领先者。它的许可证是自定义的,号称开源,但可能有约束。普通中国用户不会直接去 Hugging Face 用 Qwen,而是用阿里的通义千问,一个闭源、更多审核机制的版本。开发者才通过 Hugging Face 接触 Qwen。同一个模型,开源权重和产品界面是两套东西。LMSYS 上的评测大概率以英文为主,如果换成中文,Qwen 的表现可能更好。
监管纸面很严,地面很松
中国生成式 AI 监管是这期节目里最让人困惑的部分。L-squared 的解释是,LLM 或生成式 AI 服务商需要注册,接受一系列安全测试,覆盖训练数据和模型输出。只有证明达到可接受阈值,才能获批部署。
训练数据不是逐条检查,而是抽样,不能使用未通过安全测试的批次。2024 年出台的生成式 AI 安全标准更细,要求服务商不得使用被中国法律和政策屏蔽的来源作为训练数据。Hugging Face 和 Wikipedia 在中国被屏蔽,按字面规定,这些常用训练数据源都不该用。
但 L-squared 认为,严格执行的可能性很低。开发者大概会继续用,只是不告诉政府。政府也可能睁一只眼闭一只眼,因为不想让中国生成式 AI 落后太多。纸面规则和实际执行之间,有一道很宽的缝。
另一个数据是,截至节目录制时,只有约 40 个应用或服务通过生成式 AI 备案。实际在市场上提供服务的生成式 AI 应用远不止这个数。很多公司看了备案流程,觉得来回沟通成本太高,干脆不注册。有些公司声称只做内部测试,用户要申请白名单。实际操作是,申请就批,和全面部署差别不大。应用开发者理论上也要走安全评估和注册,但如果底层基础模型已经获批,流程可能简化。应用商店和网站本该检查备案,但检查并不严。政府可能知道有积压,也没有下重手。
“规则确实很苛刻,但法律和执行之间有空隙,所以创业公司还有空间。”
开源、蒸馏和缺席的越狱文化
中国公司为什么一边被监管,一边还放出这么多开源模型?L-squared 认为,中国政府在权衡两件事:用 AI 提高经济生产率,同时控制政治风险。开源被视为帮助中国追赶美国 AI 的重要途径,所以政府没有打压。真正要管的是面向中国公众、有大规模用户的服务,必须符合官方叙事,不能输出政治上不可接受的内容。
开源模型一旦放出去,就不再受这些规则约束。Nathan 举了零一万物 Yi 34B 的例子。他在 LMSYS 上问天安门广场,模型给出了西方聊天机器人式的回答,包括 1989 年 6 月 3 日到 4 日、军队和坦克进入广场、伤亡估计从几百到几千人。L-squared 的判断是,开源版本放在 Hugging Face 上,公司没有做和中国市场同样严格的关键词过滤。Hugging Face 在中国本来就不能公开访问,所以公司没有动力让开源权重符合国内内容限制。一旦推出面向中国企业的 API,措施就会多起来。
China Talk 的文章测试了多个中国模型,发现行为差异很大。Yi 的 Hugging Face 版本最像西方模型,其他模型更符合预期。开源版和产品版也有差别。应用开发者被期望在核心生成之外加一层过滤。美国也有过类似做法,早期 Bing 会在检测到回答跑偏时撤回答案,换成“我现在不能谈这个”。但美国多数应用不怎么做这种过滤,ChatGPT 和 Gemini 基本是生成什么就给什么。中国语境里,这种过滤更常见。
China Talk 的测试还发现,模型性能和审查行为没有明显相关性。换句话说,从中共反馈中做强化学习,RLCCPF,似乎可行,模型没有因为更服从就变笨。这点和 L-squared 的体感一致:文心一言有时触发敏感词,但整体仍有使用价值。
中国没有西方那种越狱文化。新模型发布,西方网民会比赛谁能让它说出离谱的话。中国网民更谨慎,不会分享让聊天机器人说政治不可接受内容的截图。另一个原因是,中国模型还没到 GPT-4 或 Claude 3 的水平,人们不觉得它们犯错有多意外。
北京的智源研究院给中国总理做过演示,总结中国 AI 的挑战。一个是依赖外国开源架构。另一个是模型缺乏可控性。L-squared 说,中国开发者还在和可控性较劲,这件事风险很高。如果中国聊天机器人对政治领导人说了不该说的话,可能带来公关灾难,甚至被政府暂停服务。中国开发者面对的内容风险,比美国同行高得多。
防火墙并不是完全密封。很多中国人有 VPN,可以访问外国网站。ChatGPT 可能需要外国 SIM 卡,但淘宝上能买到外国号码。企业如果使用 Microsoft Azure,可以通过 Azure 访问 OpenAI 套件,包括在中国。Nathan 试图从美国注册中国产品,卡在需要中国手机号收短信这一步。
芯片禁令:库存、云漏洞和两三年后的账单
芯片禁令是 Nathan 最关心的部分。L-squared 说,目前中国还能拿出相当有能力的模型,有两个缓冲。第一,很多中国公司在出口管制生效前囤了大量芯片,中国云计算厂商还能提供不错的 NVIDIA 芯片。第二,中国公司可以使用海外云计算服务,用无法进口到中国的顶级芯片训练模型。
但库存会用完,前沿还在中国之外继续走。L-squared 判断,芯片禁令的全面效果,要两三年后才会更明显。现在说“芯片禁令没用,中国 AI 还是很好”的人,需要更有耐心。
美国已经在堵云服务漏洞。一项草案规则要求美国云服务商记录外国客户的大规模训练用量,其中可能包含限制某些国家,大概率是中国。如果落地,中国开发者获得算力会更难。L-squared 认为,这可能导致中美 AI 生态的差距在未来拉大。
Nathan 提到,2024 年 3 月 18 日 NVIDIA 发布了 Blackwell 架构,能效和成本效率据称有数量级提升。如果这些芯片很少能进入中国,未来几年影响会很大。中国方面态度混合。政府愿意投入资源,推动半导体生态和供应链本土化。华为是主要希望,它和中芯国际合作生产了一款智能手机芯片,让不少观察者吃惊,2024 年还计划扩大 GPU 生产。
明天就能用的几件事
这期节目最核心的结论,是中美 AI 生态更像镜像,而不是两个完全不同的世界。大厂都是基础设施拥有者、支票开出者、品牌和分发渠道,也都自己做研发、投初创。公众意识都不低,使用量都在增长,都没饱和。能力差距没有“美国领先好几年”那么夸张。审批流程纸面很严,执行很松。最大差异是越狱文化的缺席。
如果你要跟踪中国 AI,下面几件事可以马上做。
- 把开源权重和产品界面分开看。Hugging Face 上的 Yi 34B 能回答天安门广场问题,不代表中国用户能在中国应用里看到同样回答。同一个模型,面向国内会套上过滤层。
- 查备案名单。中国生成式 AI 备案目前只有约 40 个应用,实际市场远大于这个数。名单能帮你判断哪些产品是合规面向公众的,哪些可能处在灰色地带。
- 用 LMSYS 排行榜做粗筛,但别只看总分。Qwen 1.5 72B 在英文评测里和初代 GPT-4 接近,中文表现可能更好。要测中文任务,自己写几个真实场景提示词,分别跑文心一言、通义千问、Kimi 和 Yi。
- 关注美国云出口管制细则。草案要求美国云商记录外国客户大规模训练,可能限制中国公司用海外算力。这条规则会影响中国模型未来两三年的训练节奏。
- 跟踪芯片库存和华为 GPU 进展。出口管制前囤的芯片会用完,华为与中芯国际的 GPU 扩产是最大的本土变量。两三年后再下结论。
L-squared 在节目最后没有给乐观或悲观的定论。她只是提醒,出口管制的影响还在后面。读者最实用的姿态是:把中国 AI 当成一个正在快速变化的生态,定期看备案、看开源权重、看云规则,而不是用一句“领先几年”或“马上追上”把它盖住。
In this episode, we explore the Chinese AI ecosystem with 'L-squared,' an anonymous tech worker based in Beijing. We discuss major players, model quality, public engagement, regulation, and the US 'chip ban.' Discover the similarities and differences between US and Chinese AI landscapes, and gain a nuanced perspective on the current state of AI in China.
USEFUL RESOURCES:
Testing Chinese models: Yi-34B-Chat (made by Kai-Fu Lee's team 01.AI) can be tried out via Replicate (https://replicate.com/01-ai/yi-34b-chat) or Hugging Face. You can also use the ChatGLM playground (https://open.bigmodel.cn/trialcenter) and Baidu's ERNIE (https://yiyan.baidu.com/) without a Chinese SIM card.
Benchmarking models: SuperCLUE is one of the most prominent benchmarks - the latest results are on GitHub (https://github.com/CLUEbenchmark/SuperCLUE) and the paper explaining the methodology is here (https://arxiv.org/abs/2307.15020).
Regulation: Explainer (https://carnegieendowment.org/2023/07/10/china-s-ai-regulations-and-how-they-get-made-pub-90117) from Matt Sheehan; piece (https://www.chinatalk.media/p/how-tight-ai-regs-hurt-chinese-firms) on how genAI regs are affecting Chinese companies.
US-China competition: Jeff Ding's work (https://www.tandfonline.com/doi/full/10.1080/09692290.2023.2173633) on the diffusion deficit in S&T; Bloomberg piece (https://www.bloomberg.com/graphics/2023-china-huawei-semiconductor/) on Huawei's semiconductor development efforts.
Staying up to date: Sign up to alerts from CSET's Scout tool (https://scout.eto.tech/); subscribe to Concordia AI's AI safety (https://aisafetychina.substack.com/) in China newsletter (disclaimer: I used to work at Concordia!)
A 2016 profile (https://chinai.substack.com/p/chinai-37-happy-20th-anniversary) on Microsoft Research Asia by Wang Jingjing, covered in Jeff Ding's ChinAI newsletter
SPONSORS:
Oracle Cloud Infrastructure (OCI) is a single platform for your infrastructure, database, application development, and AI needs. OCI has four to eight times the bandwidth of other clouds; offers one consistent price, instead of...does data better than Oracle. If you want to do more and spend less, take a free test drive of OCI at https://oracle.com/cognitive
Omneky is an omnichannel creative generation platform that lets you launch hundreds of thousands of ad iterations that actually work customized across all platforms, with a click of a button. Omneky combines generative AI and real-time advertising data. Mention "Cog Rev" for 10% off http://www.omneky.com/
The Brave search API can be used to assemble a data set to train your AI models and help with retrieval augmentation at the time of inference. All while remaining affordable with developer first pricing, integrating the Brave search API into your workflow translates to more ethical data sourcing and more human representative data sets. Try the Brave search API for free for up to 2000 queries per month at https://bit.ly/BraveTCR
Head to Squad to access global engineering without the headache and at a fraction of the cost: head to choosesquad.com and mention “Turpentine” to skip the waitlist.
Plumb is a no-code AI app builder designed for product teams who care about quality and speed. What is taking you weeks to hand-code today can be done confidently in hours. Check out https://bit.ly/PlumbTCR for early access.
TIMESTAMPS:
(00:00) Introduction
(07:24) China's AI Ecosystem
(13:40) Public AI Engagement
(17:33) Sponsors : OCI / Omneky
(18:50) AI Tools Comparison
(35:37) Sponsors : Brave / Squad / Plumb
(39:14) AI Regulatory Maze
(51:02) AI Performance, Censorship
(55:28) Chinese AI Regulations
(01:04:37) Tech, Research Role
(01:12:11) Global AI Ecosystem
(01:23:22) Cultural AI Perspectives
(01:29:14) AI Safety, Cooperation
本集资源与出处
- 视频在 YouTube 收看
- 音频节目 MP3 直链来自官方播客 RSS
- 订阅Apple Podcasts
- 官网节目官方页面
- 文本精读 Markdown 版便于引用与 AI 读取


