19个神经元能开车，1000张GPU做到全美下载第五：Liquid AI的边缘智能路线图

19个神经元，可以让一辆车自主泊车，也能让它在车道上自动驾驶。30个神经元，可以让一架无人机自主导航。这套系统来自Liquid AI，一家三年半前从MIT CSAIL拆分出来的公司，核心技术他们已经打磨了快十年。

今天，他们的液态基础模型在Hugging Face上每周下载量超过100万次，在美国机构里排名第五，前面是谷歌、Meta、微软和英伟达四家巨头。公司累计发布了50多个模型版本，供企业直接使用，而支撑这一切的算力，只有大约1000张自有的GPU。作为参照，头部实验室训练一个前沿模型，动辄烧掉几万张。

联合创始人兼CEO拉明·哈萨尼（Ramin Hasani）在Cognitive Revolution播客里说，他们大概是地球上效率最高的基础模型公司。这话有自夸的成分，但数字摆在那里。这一期对话从一条线虫的大脑讲到奔驰的车机，把小模型这门生意讲得相当透。

从一条线虫的大脑开始

故事的起点很冷门。2015年，哈萨尼在MIT读博士，和联合创始人马蒂亚斯·莱希纳（Matthias Lechner）一起研究秀丽隐杆线虫（C. elegans）。选它只有一个原因：当时它是人类唯一完整绘制出全身神经系统的动物，整个神经系统只有大约300个细胞。

300个细胞，就能完成感知、避障和精细的运动控制，比当时任何做控制的神经网络都省。哈萨尼的思路是，从第一性原理出发，先搞清楚两个神经元之间怎么交换信息，再一步步搭出更复杂的神经回路，沿着神经系统演化的路径往上走。目标很明确：造出能适应真实世界的机器。自动驾驶汽车、无人机、固定翼飞行器，这些系统一开进真实环境就会撞上分布外数据，模型必须扛得住，而人类和动物恰恰擅长这个。

线虫的神经元有个天然优势：不放电，是分级式的，行为可以用微分方程描述，整个系统可微分。这意味着可以直接套反向传播来训练，把神经科学的启发和机器学习的工程接在一起。

他们把每个神经元写成一个微分方程，保留了传统人工神经网络当初为了扩展而丢掉的复杂计算，然后训练。结果出乎意料：12个神经元能自主泊车，19个能开车，30个能让无人机自主飞行。后来波音赞助了哈萨尼在MIT的博士后研究，团队还和美国空军合作，用极少量神经元驱动喷气式飞机做实验，专门测分布外泛化的极限。

为什么叫“液态”？因为训练结束之后，系统的动态仍然保持灵活，能对新输入做出反应。传统神经网络的计算路径训练完就定型了，液态网络的路径会随输入流动。

1907年的方程，等了115年才有闭式解

优雅归优雅，麻烦马上就来。每个神经元是一个微分方程，神经元越多，前向和反向的计算复杂度越高，最高冲到立方级。要靠数值求解器一步步迭代，想要精度就得加步数，算力根本扛不住，这类系统没法规模化。

团队的赌注是：把整个方程组求出闭式解。这条数学脉络可以追溯到1907年，法国科学家路易·拉皮克（Louis Lapicque）用它给细胞膜电位建模，后来成了离子通道建模的基础。霍奇金和赫胥黎在20世纪50年代初把它发展成更精确的单神经元动力学模型，1963年拿了诺贝尔奖。从那以后，教科书里的共识是：这类方程没有已知的闭式解。

2022年，哈萨尼团队第一次把它解了出来，成果发表在当年11月的《自然·机器智能》上，叫闭式连续时间网络。有了闭式解，就不再需要数值求解器，串行计算可以变成并行计算，模型从几百个神经元直接扩展到几十亿个。

2023年2月初，《量子杂志》刊出关于他和莱希纳的长篇报道。哈萨尼回忆，邮箱当时被风投塞满了，硅谷每个人都想往他们手里塞投资意向书，因为这套数学和Transformer是完全不同的路线，而且有生物学根基。公司的使命也在那时定型：建造高效的、覆盖每个尺度的通用AI系统。

数神经元还是数参数：非线性的代价

早期的液态神经网络按神经元计数，一个神经元大约对应7个参数，内部带三层反馈机制。今天发布的液态基础模型（LFM）已经和业界一样按参数计，10亿就是10亿，可以和其他GPT类模型直接对比。

扩展路上最大的拦路虎是什么？哈萨尼的回答很干脆：把串行计算变成并行计算。参数从标量变向量再变矩阵张量，这套操作对线性系统很顺，状态空间模型（SSM）之所以能扩展，正因为它们把动力学线性化了。可液态网络的核心卖点恰恰是非线性，嵌套的非线性关系没法用标准线性代数张量化。哪怕有了闭式解，几十万到上千万神经元规模的模型，计算仍然得串行跑。团队也在研究顺序扫描这类算子，让非线性系统不线性化也能加速，只是这条路还没走完。

好消息是，这类模型小到惊人。一个液态网络的文件体积在1到25兆字节之间，树莓派就能跑。语音合成、多变量序列预测这些任务上，闭式版本的性能和原始微分方程版本持平。

哈萨尼还澄清了一个容易混淆的概念。液态网络会随输入调整自己的动态，但参数是固定的，所以它算自适应，算不上持续学习。他打了个比方：开车时突然下雨，雨滴打在摄像头上产生噪声，传统网络没见过这种输入，可能被带偏；液态网络会对输入做低通滤波，动态随之调整，而现实世界的变量本身没变。参数不动，动的是动态，这相当于在参数之外多了一个压缩信息的维度。

关于规模，他从大规模架构搜索里总结出一条规律：缩放定律定义架构。模型越大，越要“无结构”，纯矩阵乘法、纯卷积、纯扫描算子，别加花哨的门控；模型越小，越要加偏置，门控、递归、卷积这些结构化设计反而涨点。有偏架构的舒适区大概在1000亿到1万亿参数以下。Transformer能一路扩展到数万亿参数，恰恰因为它足够无结构，任何矩阵都能乘任何矩阵。这有点像管团队：三五个人可以人人盯细节，上万人就只能靠简单通用的规则。

让算法自己搜架构：LFM2怎么来的

公司内部有一套叫AFMD（自动化基础模型设计）的元学习系统：把目标硬件放进搜索回路，用进化策略尝试大约50到100种算子，同时优化内存占用、延迟和速度，质量约束用100个基准加真实下游任务来衡量，困惑度不作数，公开榜单也不作数。

做这件事的动机，是去掉人类偏见。哈萨尼说，包括Anthropic和OpenAI在内的大实验室里，都有一小撮他称为“架构复仇者”的人在拍板：改这里，因为他的经验里这样改有效。市面上流行的Mamba、门控DeltaNet，到处是手工调的门控，而搜索结果证明，要达到最高效率，这些手工修饰都得简化掉。

这是所有基础模型实验室共同的毛病。你得把决定权交给算法，交给一套系统化的方法，让它去找出真正适合你要解决的问题的架构。

这话他说得有底气，因为公司创始科学家阵容里就有状态空间模型的关键人物：吉米·史密斯（Jimmy Smith），S5的发明者，把并行扫描带进了SSM世界；斯特凡诺·马萨罗利（Stefano Massaroli）和迈克尔·波利（Michael Poli），Hyena Hierarchy卷积架构的设计者。一群各自流派的高手坐在一个屋里，谁说了算？答案是让搜索说了算。

缩放定律实验从1000万参数一路扫到720亿。结果出人意料地简单：当所有人类偏见被拿掉，最后胜出的是双门控卷积。LFM2里70%到80%的层是这种极简的双门控卷积，替代了注意力，计算复杂度、内存占用、推理速度全面改善，质量上与Transformer方案打得有来有回。

主持人内森·拉本兹（Nathan Labenz）总结得很到位：多年前那句“注意力就是一切”，今天该改写成“注意力你仍然需要一点，但其他层只要带上门控，用极简的卷积就够了”。真正创造价值的是门控，门控背后的机制可以非常简单。

门控为什么这么重要？哈萨尼解释，输入依赖性是他在生物学里学到的根本发现。早在Mamba发布一年半前，团队就发过Liquid S4论文，首次提出输入依赖的状态空间模型。从学习理论看，魔法发生在反向传播：输入依赖的算子会把自身的动态一并编码进梯度里。网络在拟合数据的同时，也在学一套随输入变化的动态，等于在参数之外多学了一个维度，门控做得多复杂，直接决定这个维度的上限。他还补了一个容易被忽略的点：语言是离散序列，门控对离散序列同样有效，这套从连续时间系统里长出来的结构，放到语言建模里照样涨点。 聊到架构研究的定位，哈萨尼给了个清醒的判断。架构研究最大的价值已经找到了，答案是效率。模型越来越大，AI需求指数级上涨，头部实验室几乎把地球上的算力扫光，推理成本压不下来，普惠就无从谈起。真正的下一跃迁，他押在架构之外：学习算法、数据表示、目标函数要一起创新。他顺带点名了当下学习理论的缺陷，训练全部建立在独立同分布假设上，模型本质上是台平均机器，AI写作的平庸和谄媚，根子就在这里。多智能体和测试时扩展只是权宜之计。

从DNA到奔驰车机：小架构的主场在哪

架构搜索跑下来，不同数据形态各有各的最优解，边界相当清晰。 生物序列是典型例子。DNA的词表极小，远比自然语言简单，但序列长度惊人，哈萨尼给出的量级是10亿到1000亿个元素。注意力的平方复杂度在这里直接爆炸，纯卷积、纯状态空间模型、线性注意力才是正解。 音频是另一个极端。纯语音到语音、噪声到干净信号的任务，循环神经网络至今非常能打，尤其数据量少的时候。小数据场景恰恰是带偏置架构的主场，反馈机制能补上数据的缺口。物理仿真也类似，给工厂里的化学反应建数字孪生，物理信息神经网络这类强偏置模型最对路。他提到，早年开源的液态网络仓库至今还有人用，做传感器和物理数据的时序预测，因为系统本身是连续时间的，数学上天然匹配。视频建模则还在扩散和自回归两条路线之间摇摆，他不急着下结论。 商业进展比论文直观。Shopify的推荐、搜索和商品目录理解已经用上液态模型，点击率等内部指标在涨。更标志性的是与奔驰签下的合同：车内语音和视觉智能由液态基础模型驱动，以后你跟车说话，回应你的声音来自一个600MB的模型，塞得进车里最小的处理器。 哈萨尼给这类应用起了名字：设备原生基础模型，覆盖数据中心之外的所有处理器，汽车、手机、笔记本、可穿戴、机器人、工业物联网。他给了一组数字：全球手机市场每年约5000亿美元，和数据中心市场体量相当。拉本兹补了一刀：加上笔记本，每年约一万亿美元的算力被装进人们的口袋和桌面，从智能的角度看，这些是远未开发的暗算力。 哈萨尼的回应很直接：必须开发这些算力，因为能源不够把所有智能都塞进云端。数据抽取这类任务没必要调用最贵的云端模型，分层调度是必然。 对话后半段转向给芯片公司的忠告。他判断CUDA护城河正在变浅，智能体现在能在内核层面自动生成代码。他建议硬件厂商学英伟达：Nemotron项目和NIM方案，本质是给自家硬件盖一层智能层，企业买硬件就自带能用的模型，还能用Megatron框架微调，据说这条路英伟达砸了约20亿美元。拉本兹追问，这是否意味着软硬件从此绑死。哈萨尼反问：默认模型已经够快、能微调、能编排多个实例，你为什么要换？前提是硬件必须兼容整个开源生态，这是底线，在此之上，自带智能层的硬件才有溢价能力。

20瓦的极限，和你明天就能搭的本地智能栈

收尾前，拉本兹问了最后一个问题：智能的微型化有没有上限？人脑用20瓦跑出通用智能，会不会已经站在帕累托前沿上？ 哈萨尼先泼冷水：用现有算法，逼近不了人脑的每瓦智能。人类带着数亿年演化的预训练来到世界，而当前的上下文学习，本质是模型从下一个词预测里涌现出的一个模糊的梯度下降，勉强算是最小二乘。人脑的武器库丰富得多，强化学习、脑内模拟、贝叶斯推断，多套算法并行。他的方向判断是：智能是涌现属性，想让它小型化，就得在设计之初埋下更多能涌现的种子算法，让好奇心驱动的学习在低能耗下自然生长。下一个词预测是第一颗种子，第二颗还没人找到。 节目最后落到实操。拉本兹拿自己的工作流举例：五年的邮件、Slack、播客转录都在本地数据库里，桌面版Claude能调本地工具取数据，但每次判断都要把结果传回云端。他想先过一道本地模型，省token，也少送隐私。 哈萨尼给出三层蓝图：本地编排器负责路由，难任务送云端；涉及个人隐私的数据，先让本地小模型脱敏再外发；日常抽取和分类全程留在端上。他推荐LFM2 24B A2B，混合专家架构，240亿总参数、20亿激活，专为消费级硬件上的工具调用智能体设计。关于微调成本，他给了具体区间：把本地模型调到云端质量，花费在几十到几千美元之间，用不着几万美元，而且能在你已有的算力上跑。Liquid的平台几个月内发布，到时候挂上数据就行，不用自己折腾。 读者明天就能上手的三件事：

• 去Hugging Face下载LFM2系列，在自己笔记本上跑一遍推理，实际感受端侧模型的速度和质量。
• 把手头任务分层：数据抽取、脱敏、格式转换交给本地小模型，只有复杂推理才调用云端旗舰，账单和延迟都会降。
• 写一条最简路由提示，让模型自己判断请求是否含隐私、是否超纲，分别走本地和云端两条通道。

哈萨尼最后说，自己是个技术乐观主义者。科学的目的从来就两个：满足好奇心，理解世界。现在的AI系统已经把前沿研究的门槛降到每个人面前，缺的只是更多好奇的人。变化的速度会非常快，方向也已经清楚：让智能离开数据中心，去到它该去的每一台设备上。