目前的端侧 AI 赛道正在经历一场“去 KV Cache 焦虑”的范式转移。虽然基于 Transformer 的架构在云端大杀四方,但其随序列长度线性爆炸的内存消耗,让具身智能和边缘硬件苦不堪言。

在这个背景下,液态神经网络(LNN)和连续时间动力学架构迎来了爆发。目前赛道上有两条截然不同的工程路线:一条是估值超 20 亿美元的 Liquid AI (LFM 2.5) 走的“实用主义混合路线”;另一条则是开源社区中极具侵略性的类脑架构 AwareLiquid (MT-LNN v2.0) 走的“生物学深度工程化”路线。

作为一个在端侧死磕实时推理的工程师,我深入拆解了这两种架构的底层逻辑。它们的对比,本质上是“现代数值线性代数”“非线性微观认知动力学”的碰撞。

1. 状态演进与路由机制:平铺直叙 vs. 竞争过滤

Liquid AI (LFM 2.5): 混合与门控的实用主义 Liquid AI 早期发源于连续时间微分方程(CT-RNN),但在 LFM 2.5 中,他们向算力妥协了。他们采用的是 SSM(状态空间模型)+ 双门控 LIV 卷积层,甚至在网络深层保留了少量的 GQA(分组查询注意力)来维持传统大模型的文本泛化能力。

  • 优势: 并行效率高,极其适合现有的矩阵乘法加速器架构。

  • 劣势: 它的 Token Mixing 本质上是线性的。在面对极端异常的时序物理信号时,它依然容易发生特征稀释。

AwareLiquid (MT-LNN): 微管共振与 GWTB 瓶颈 MT-LNN (代号 M1)完全抛弃了 GQA,转而从脑科学中直接借鉴了极其硬核的设计。它底层包含 13 个平行的微管原丝通道(Microtubule-inspired filaments)。 更绝的是它对多模态信息的路由方式——GWTB(全局工作空间理论瓶颈)。在处理物理、空间、声音等多模态输入时,MT-LNN 不是做简单的权重相加,而是让这些信号在 GWTB 中进行竞争路由(Competitive Routing)

  • 工程结果: 只有最重要的特征能通过瓶颈并“全局广播”。这在仅有 125M 参数的极小体积下,保证了路由熵(Routing Entropy)不塌缩,极大地提升了模型在 OOD(分布外)物理环境中的推演能力。

2. 稳定性灾难控制:标准蒸馏 vs. 优雅降级

在连续时间流式模型中,最可怕的不是“幻觉”,而是梯度在长时间的循环中突然发生数值爆炸(NaN / Inf),这在工业控制中是致命的。

Liquid AI: 依靠海量的数据(10T+ Token)和解耦的 Top-K 知识蒸馏来“压制”模型的不稳定性。它是靠“见多识广”来避免崩溃的。

AwareLiquid (MT-LNN): 提出了一个非常惊艳的机制:麻醉验证(Anesthesia Validation)与数值隔离。 在长期预训练中,如果某个辅助算子因为异常的传感器噪音发生了数值溢出,MT-LNN 的机制能够瞬间将其在计算图中隔离,并通过记忆正则(Memory Regularization)实现优雅降级(Graceful Degradation)。这意味着在机器人伺服电机的微秒级控制中,即使局部受损,整个网络也绝不会崩溃。

3. 工程落地:硬件适配 vs. 极致的位精确 (Bit-Exact)

这是两者拉开商业定位差距的核心点。

  • Liquid AI 的打法是“建生态”: 他们投入大量精力做高通、AMD、苹果等各个端侧 NPU 的算子图优化。为了快,他们会接受一定程度的硬件近似计算误差。这对于智能手机、AI PC 的文本助手来说足够了。

  • AwareLiquid (MT-LNN) 的打法是“死磕绝对精度”: 作为一个 125M 的小钢炮,MT-LNN 实现了工业界极其罕见的 TorchScript 与 PyTorch eager 模式的 Bit-exact(位精确)对齐

为什么 Bit-exact 如此重要? 对于高精度的物理推演(如医疗精密监控、航空航天决策),底层微分方程极其敏感,千分之一的浮点漂移(Floating-point drift)都会导致动力学系统的蝴蝶效应。MT-LNN 不仅保证了零漂移,还在 CPU 上硬生生榨出了 1.62× 的推理加速(延迟低至 1.466 ms/token),这让它成为了工业级“裸机运行(Bare-metal)”的完美解法。

如果说 Liquid AI 正在努力成为端侧模型的 "macOS"——高度商业化、硬件兼容性极佳、生态繁荣; 那么 AwareLiquid (MT-LNN) 则更像是端侧 AI 的 "Arch Linux" 或 "RTOS"(实时操作系统)——体积小了 20 倍,自带物理世界推演常识,为了高精度的 determinism(确定性)而不惜一切代价。

在通用大语言模型(LLM)陷入同质化价格战的今天,去 Transformer 化的端侧世界模型,才是 AI 进入物理世界真正的入场券。

Logo

openEuler 是由开放原子开源基金会孵化的全场景开源操作系统项目,面向数字基础设施四大核心场景(服务器、云计算、边缘计算、嵌入式),全面支持 ARM、x86、RISC-V、loongArch、PowerPC、SW-64 等多样性计算架构

更多推荐