Liquid AI 发布 LFM3 多模态开源权重模型家族，2B 级覆盖文本、视觉、音频、omni 和决策模型

今天，我们很高兴发布 LFM3，这是我们新一代的 Liquid Foundation Models（LFM），专为专业化智能打造。LFM3 模型家族天生多模态，将文本、视觉、音频、全模态和决策模型统一到一个全新的共享骨干网络上。LFM3 家族的首个版本覆盖 2B 参数级别的模型。

LFM3 基于全新的混合架构和 22T token 的预训练，表达能力强于 LFM2，同时保持了高效性。小巧快速的模型拥有额外容量，使 LFM3 成为同类中面向专业化智能的理想起点：它可以在本地微调，能在任何设备上运行，而且能力足以成为某项专业任务的可靠专家。

基础模型和后训练模型均为开放权重，今天已在 Hugging Face、我们的 Playground 和 Liquid AI API 上线。请查看我们的文档，了解如何在本地运行和微调这些模型。

亮点

• 每参数能力更强：全新的三混合架构和训练配方让 LFM3-1.7B 在参数少 35% 的情况下，性能超过此前的 LFM2.5-2.6B。
• 所有模态，一个骨干：六个 2B 级模型（文本、视觉、音频、全模态和决策）均从 LFM3-1.7B-Base 训练而来。 
• 为边缘而生：文本模型在 4 位精度下仅占约 1 GB。 
• 全新的自研旗舰视觉和音频编码器。
• 文本模型支持 256K 上下文窗口。
• 为专业化而打造：每个模型都能在单张 GPU 上微调。

LFM3 实例是专业化智能的理想候选。用你自己的数据微调，再部署到应用运行的地方。请享受这篇文章。

下载权重在 Liquid API 中试用在 Playground 中试用在 Pipette 中跑基准测试

新架构带来更强表达力

LFM2 证明了短卷积与注意力机制的混合架构能在设备端快速运行，且不牺牲质量。其设计来自我们的自动化硬件在环架构搜索。在 LFM3 上，我们用这套搜索重新设计了该架构，以适配智能体用例——这类场景需要更高的每参数能力，以及长上下文下的快速推理。

我们还扩展了硬件在环的范围：LFM2 只覆盖一部手机和一台笔记本的 CPU，LFM3 则覆盖 14 种设备和后端组合：手机（Samsung Galaxy S26 Ultra 和 OnePlus 15）、Raspberry Pi 5、笔记本（Apple M4 Max 和 AMD Ryzen AI）、Arm 和 x86 云 CPU，以及 GPU 和高通 Hexagon NPU。

门控短卷积仍占一半以上的层。为了在不拖慢长上下文的前提下提升能力，我们尝试把其中一些换成其他序列模块，结果滑动窗口注意力（SWA）在质量与速度之间取得了最佳平衡。下文描述的其他改动，只有在能提升质量且不带来明显速度损失时才保留。收益在长上下文上体现明显：按参数计，LFM3-1.7B 在各边缘设备上的短提示词表现与 LFM2-1.2B 相当，而在上下文达到 8K token 时约快 25%。

三层混合结构。LFM3 融合了三种算子：门控短卷积、滑动窗口注意力（SWA）和全局注意力。24 层中有 13 层是卷积，5 层是窗口为 256 个 token 的 SWA，6 层是全局注意力。卷积的核大小也从 LFM2 的 3 提升到 7。

逐头门控注意力。每个头的输出都经过一个 sigmoid 门控缩放，这样当某个头没有可补充的信息时就能关闭。这有助于抑制会损害量化的激活离群值，并提升训练稳定性。

部分 RoPE。全局注意力层只对每个头中频率最高的那一半做旋转，低频那一半不旋转，因此这些维度无论距离远近都能按内容匹配。SWA 层则保留完整的 RoPE。

三明治归一化。每个模块对输入和输出都做归一化，有助于让激活值保持在合适的尺度上。

LFM3 沿用与 LFM2.5-8B-A1B 相同的 128K 词表，专门为更高效地切分非拉丁文字而构建。

训练。LFM3-1.7B-Base 在 22T token 上完成预训练。与 LFM2 相比，数据配比中增加了更多科学论文、仓库级代码、更广泛的知识来源，以及相当多的数学内容。最后 3.5T token 是中期训练阶段，使用经过筛选的更高品质数据，其中智能体轨迹和多样化工具调用的占比更高，为后续的智能体后训练做准备。这一阶段还把上下文窗口扩展到 256K token。

满足各种需求的多模态家族

LFM3 的首批发布包含六个模型，全部从同一个 LFM3-1.7B-Base 主干分支而来，参数量都在 2B 左右。其中四个覆盖不同的输入模态（文本、视觉、音频和全模态），最后两个则是分别从视觉模型和全模态模型特化而来的决策模型。你无需运行一个大型通用模型，而是可以挑选适合自己场景的那一个，加以定制，并在设备端运行。

想深入了解这些模型背后的性能和推理结果，请参阅各自的模型卡。

01 / 03

文本

LFM3-1.7B 是一款面向本地智能体和专用应用的文本模型，上下文窗口为 256K token。

它经过后训练，可在 Hermes Agent、Pi、OpenClaw 等智能体框架中运行。它能分拣收件箱、管理日历、在网上调研主题、通过 WhatsApp 给你发送晨间简报，还能借助工具搜索，在成千上万个选项中找出合适的工具。由于 token 免费，几十个智能体可以持续在后台运行。只需在单块 GPU 上做一次简短的微调，就能让它适配你的领域、框架和工具。

在智能体任务上，LFM3-1.7B 能与体积数倍于己的模型一较高下。它在 BFCL 和 ToolSandbox 上的指令遵循与函数调用方面领先，并在浏览器和商业应用的长任务（WebArena-Verified、AutomationBench）上胜过 Qwen3.5-9B。在智能体编程和知识方面，更大的模型仍然占优，因为这两项最吃模型规模；但搜索有助于缩小知识差距，使其在 Humanity's Last Exam 上的得分几乎翻倍。

为取得这些成绩，模型经历了四个阶段的后训练：

• 监督微调（SFT）：覆盖聊天、推理、工具调用和智能体轨迹等多种任务，共 1.75T token。
• 混合强化学习：同时训练多个领域，从数学、代码到 SQL 和结构化输出。奖励中加入长度惩罚，让回答保持简洁。
• 多领域同策略蒸馏（MOPD）：把六个专家 RL 教师（代码、数学、工具使用、长上下文、智能体工作、企业工作流）蒸馏回单一模型。
• 智能体强化学习：从网页浏览到办公工作的任务都在真实的智能体框架中运行，让模型为部署做好准备。

在设备端，我们用 llama.cpp 在 Q4_0 量化和 32K token 上下文下测量各项指标。LFM3-1.7B 在三台设备上都是最快的模型，解码速度比第二名快 1.8 到 2.8 倍，内存占用也最少。长上下文同样开销很低：完整的 128K token 上下文只需 1.6 GB 的 KV 缓存，而 Qwen3.5-4B 需要 4.3 GB，MiniCPM5-2B 需要 5.6 GB。

在单块 NVIDIA B300 上，用 SGLang 以 BF16 精度运行，LFM3-1.7B 在 1,024 个并发请求下每天可生成 36 亿 token，超过本次对比中的其他所有模型。

为了展示这样的吞吐量能带来什么，我们并行运行了 30 多万个 LFM3-1.7B 智能体，对安然（Enron）邮件档案进行调查。

LFM3-1.7B 在随机流量下也能以低延迟提供服务，在 Liquid RIPL 上运行时可以支撑在线欺诈检测这类实时场景。即使在高负载下，P95 请求延迟依然保持稳定，表现优于在 vLLM 上部署的竞品模型。

视觉

LFM3-VL-2B 能观察、推理并理解物理世界：

• 视频理解：LFM 视觉模型首次支持视频输入。你可以就录制的讲座、用手机拍摄的实景导览，或摄像头画面片段提问。
• 思考：模型在回答前会逐步推理。这有助于它更好地理解用户输入，解决更难的视觉问题，比如数学、图表和多步问题。
• 空间与具身推理：模型定位物体并推理其空间关系的能力，为下游机器人应用打下了坚实基础。

相比 LFM2.5-VL 系列，LFM3-VL-2B 的性能大幅跃升。在 62 项视觉基准测试中，LFM3-VL-2B 的得分明显领先所有同尺寸模型至少 7.4 分；尽管体量不大，它的表现已与 Gemma 4 12B 持平——后者规模是它的 6 倍多——并超过 Gemini 3.5 Flash Lite，与 GPT-5.6 Luna 相差不到 2 分。更多细节请见模型卡。

注：每个类别的分数是该类别各项基准得分的未加权平均值。平均行为全部 62 项评测的未加权平均值。

这一切都能在设备端高效运行，让智能能力融入日常使用，数据无需离开设备，也不需要连接云端。在设备端，LFM3-VL-2B 在所有实测设备上的预填充吞吐量最高、内存占用最低，优于同尺寸级别的其他模型。

在单块 NVIDIA B300 上使用 SGLang 以 BF16 精度运行时，LFM3-VL-2B 每秒可生成超过 12,000 个 token，高于同尺寸级别的任何其他模型。

LFM3-VL-2B 在随机流量下也能以低延迟提供服务，在 Liquid RIPL 上运行时，可支持图像素材打标等实时用例。即使在高负载下，P95 请求延迟依然保持稳定，表现优于在 vLLM 上提供服务的竞品模型。

视觉编码器

除了对 LFM3 主干网络的改进，LFM3-VL 还搭载了我们全新自研的视觉编码器，其计算量比此前 LFM VL 模型中的 SigLIP2 编码器少 3 倍。

Liquid 视觉编码器融合了卷积与注意力机制，在同等质量下效率显著高于 ViT 方案。下方的性能-效率图展示了这一点。我们这款 164M 参数的编码器在 13 项视觉语言模型基准测试中平均准确率达到 55.9%，与 Qwen3.5-2B 的视觉编码器持平，而所需 FLOPs 少 2.2 倍。

在视频方面，编码器会将每对采样帧联合嵌入为一个时间切片的视觉特征，在进一步编码前将时间序列长度减半。这些设计共同使该编码器成为更丰富的图像理解和高效视频处理的基础。

音频

LFM3-Audio-2B 是一款紧凑、功能完整的音频模型，可在笔记本电脑和边缘设备上本地运行。它以文本或音频为输入，输出文本、语音或两者兼有。

LFM3-Audio-2B 采用全新架构，配备自研的音频编码器和编解码器。其语音质量优于 LFM2.5-Audio，并新增支持 18 种语言。新能力包括音频理解、通用音频推理和工具调用。

• 语音聊天：大声提问，即可收到文本和语音形式的流式回复。对于纯文本回复，模型还可以先推理再作答。
• 多语言语音：在 18 种语言之间进行语音转写、合成和翻译。
• 音频理解与推理：让模型解读录音，并回答关于其中语音、声音和事件的问题。
• 工具调用：把口头请求转化为工具调用，以控制应用和设备。模型还可以在调用工具的同时以文本或语音回复。

ASR（WER，%，越低越好）

英语 TTS（UTMOSv2，1-5，越高越好）（WER，%，越低越好）

VoiceBench、工具调用、音频理解（音频输入、文本输出，%，越高越好）

我们全新的 LFM 音频编码器基于滑动窗口注意力与短卷积层混合构建，将内存占用控制在有限范围内。新编码器完全因果，模型可以处理实时麦克风输入，并在你说话的同时进行预填充。这缩短了你说完之后的等待时间，首 token 延迟低至 50 ms。

我们全新的音频分词器 LiquidCodec 为 LFM3-Audio 和 LFM3-Omni 的多语言语音生成提供支持。LiquidCodec 基于 LFM3 架构，在单 CPU 线程（Apple M4 Max）上能以约 87 倍实时速度把生成的 token 转成语音，并支持流式解码。 

量化把每 80 ms 语音压缩成 12 个离散 token；与之前的 LFM Audio 模型不同，它允许并行迭代预测多个 token，而无需顺序预测。随着主干网络生成新 token，解分词器会逐步将其转换为语音，整个过程都快于实时，因此对话流畅、响应及时。

Omni

LFM3-Omni-2B 是我们的首个全模态模型，将视觉、音频和语言整合进单一模型，能看、能听、也能开口回应：

• 语音视觉问答：用语音询问图像或真实场景相关的问题，并以文本、语音或两者兼有的形式获得回答。
• 音视频理解：同时处理视频帧及其对应音频，让模型既能推理屏幕上发生的事，也能理解正在说或听到的内容。
• 多模态工具调用：结合视觉上下文与语音指令生成结构化工具调用，使助手能够依据所见和用户所说与应用及界面交互。

LFM3-Omni 支持需要同时理解视觉与听觉信息的跨模态交互。用户可以用语音询问图像相关问题，也可以提供带同步音频的视频，并提出同时依赖所见与所听内容的问题。

除跨模态理解外，LFM3-Omni 还保留了独立 LFM3 模型的核心能力，包括视觉问答、语音识别、语音合成和语言指令遵循。

LFM3-Omni-2B 专为在资源受限的环境中高效部署而设计。凭借其能力，可以打造对话式助手，提供结合上下文的指导、支持免手操作交互，并帮助用户通过自然语音指令完成任务。它把视觉理解、语音对话和工具调用结合起来，可支撑从个性化教育、日常辅助到数字界面导航和机器人系统等多种应用。

它只有 2.2B 参数，却能把这类多模态助手带到设备端。比如：一位家教能看着你手写的数学题、回答你的口头提问；一台平板你可以拿着到处走，随时问它看到了什么；还有车载助手，把摄像头看到的画面和司机说的话结合起来。

决策

本次发布还带来两个新的决策模型：基于 LFM3-VL-2B 构建的 d1-2B 能读文字和图片，基于 LFM3-Omni-2B 构建的 d1-Omni-2B 还能听声音。它们不写答案，而是在毫秒内做出判断。给它们一个场景（一张客服工单、一张发票、一个应用界面、一张照片、一条语音留言）和一组问题，它们就能在一次前向推理中全部作答，每个答案都附带校准过的概率。

除了全新的 LFM3 主干，相比 d1-3B 最大的变化是带类型的答案。在是/否、选项和评分之外，两个模型现在还能：

• 定位：在你描述的目标周围画框，或找出某个东西的所有实例并给出数量。
• 读取：从文档中提取文字、数字和日期，并给出它们所在的精确片段；字段不存在时回答“未找到”。
• 估计：给出一个数值及其可能范围。
• 选择：选出所有适用的选项，每个选项各带概率。

问题想问多少都行：它们会在同一份输入上一次性读完。

更小也更强。d1-2B 取代了此前的 d1-3B，参数少了三分之一：

能说出来的决策。d1-Omni-2B 可以通过音频接收同样的问题，因此语音请求也能像文字请求一样被路由、核查或回答。改用语音而非文字提问时，它几乎保持了全部准确率：

它还能识别日常声音（ESC-50 上 84.5%），并判断说话的是 43 种语言中的哪一种（FLEURS 上 92.5%）。

文字和图片场景选 d1-2B，输入包含音频时选 d1-Omni-2B。两者都在设备端运行，能把源源不断的工单、文档、通话或摄像头画面转化为结构化决策，无需往返云端。

在下面的演示中，d1-2B 运行在一台 MacBook 上。你用自然语言描述要找什么，它就会利用新的 Point 答案类型，在一次前向推理中为每个匹配项画出边界框。

为专业化智能而生

LFM3 生来就是为专用化而设计的。2B 级别的模型足够小，可以用你自己的数据做微调，并运行在应用所在的环境中。下面两个例子用 LFM3-VL-2B 展示了这一点。第一个是简短的微调，把它变成一个针对某项狭窄工业任务的检测模型。第二个是一项研究性扩展，把它变成一个机器人控制器。

领域专长：让 LFM3 专精于你的领域

前沿模型是强大的通才，但未必是你特定用例的专家。在这个演示中，我们微调了 LFM3-VL-2B，用来在风机叶片的无人机照片中查找并分类缺陷。训练使用了约 3,000 张公开照片（WTBs2025），采用 SFT 和 GRPO，在一块 A100 上训练了几个小时。随后我们在约 1,400 张留出照片上，把它与基础模型和 GPT-6 Luna 做了对比。

未经微调时，LFM3-VL-2B 和 GPT-6 Luna 能在不到 10% 的图像中正确识别这些缺陷类型。经过简短微调后，LFM3-VL-2B 的分类准确率提升到 67%，检测 F1 从 0.003 提升到 0.11，而 GPT-6 Luna 为 0.01。雷击图像能说明这种差异：GPT-6 Luna 往往能正确定位缺陷，却把标签打错，而微调后的模型能正确识别出雷击。除了分类和检测，该模型还能就同一张图像回答自然语言问题。例如，它可以定位可见损伤，或撰写一段简短的巡检结论，包含缺陷类型、支撑证据和位置。

风机叶片微调示例用我们的微调 notebook 开始定制 LFM3

机器人：教 LFM3 行动

我们研究了 LFM3-VL-2B 如何作为机器人应用的基础。我们考察了三个互补方向：（1）高层工具编排，（2）视觉语言导航，（3）底层操作。

编排。基于 LLM 的机器人规划与控制研究（SayCan、Code as Policies）以及近期的物理编排器（VoLo、Gemini Robotics ER 2），我们微调了 LFM3-VL-2B，让它通过工具操作机械臂。给定一个请求和当前相机图像，它会逐步推理，通过指向来定位物体，用深度工具测量它们，再通过运动规划器进行操作。随后它在下一张图像中检查每个结果并回报，包括请求无法触及或含义不明的情况。任务涵盖关系选择、按测量属性排序以及环境扰动，全部在 Isaac Sim 中仿真。无需改动架构。我们在约 40,000 个样本上训练了一个 rank-32 的 LoRA 适配器，样本结合了操作轨迹与通用工具使用和指向数据，在单块 AMD Instinct MI325X 上耗时约六个 GPU 小时。搭配一个微调过的 d1-2B 技能监控器，我们还能在打滑、卡住和拖拽等扰动下把恢复成功率再提高一倍。

导航。在视觉-语言导航任务中，LFM3-VL-2B 会读取路线描述和一小段 RGB 帧历史，据此预测导航目标以及残差量化后的轨迹基元，其动作接口的设计灵感来自 LightNav-0。每次决策由五个 token 组成：两个空间/控制 token，以及三个分层量化的编码，用来表示一条包含十个路点的路径，速度控制器可以跟踪这条路径。我们只改用了 2,068 个词表 token，架构其余部分保持不变。训练使用 280 万个样本，在 MI325X GPU 上耗时 72 GPU 小时。在未见过的验证场景中，采用严格的连续控制评测协议（禁用贴墙滑动、要求显式停止），所得模型在 R2R 上的成功率为 53%，在 RxR 上为 43%。我们还观察到，模型在不同相机角度和指令语言下都保持稳健。在 Jetson AGX Orin 上，我们的导航模型使用 TensorRT FP16、不启用视觉提示缓存，路点轨迹更新频率超过 2.5 Hz。

操作。为了把 LFM3-VL-2B 变成视觉-语言-动作（VLA）模型，我们采用了受 OpenVLA-OFT 和 StarVLA-α 启发的并行动作预测：一个小型残差 MLP 在一次前向传播中，把八个动作查询 token 的隐藏状态映射为八步连续机器人动作块。本体感知信息既以离散化文本形式提供，也通过一个针对具体本体学习得到的投影提供，整个网络端到端微调。我们在 MI325X GPU 上训练了一个通用检查点，耗时 170 GPU 小时，数据来自 15 种本体的仿真和真实机器人数据，涵盖单臂、移动操作平台、双臂平台以及一台人形机器人。所得 VLA 在四个 LIBERO 套件上平均成功率达到 96.2%，在 RoboCasa-GR1 桌面任务上达到 45.7%。在 Jetson AGX Orin 上，它以 FP16 精度使用 TensorRT，可在 50 ms 内生成动作块。

开始使用

今天就用 LFM3 开始构建，现已上线 Hugging Face 和 Liquid AI API。

借助 LFM3，我们正在实现“AI 随处运行”的愿景。这些模型：

• 开放权重：可下载、微调并部署。
• 第一天就快：原生支持 llama.cpp、MLX 和 vLLM，覆盖 Apple、AMD、NVIDIA、SGLang 和高通硬件。可部署在 Liquid 实时推理管线上，应对低延迟、高吞吐的工作负载。
• 完整家族：从可定制的基础模型，到专门的文本、视觉、音频、全模态和决策模型，一套架构覆盖多种用例。

我们迫不及待想看到你构建的作品。

在 Hugging Face 下载通过 Liquid API 使用在 Playground 试用

发布合作伙伴

感谢我们的首日发布合作伙伴的支持。LFM3 今天即可在这些平台上使用：Ambarella、AMD、Arm、通过 OpenVINO 支持的 Intel、NVIDIA、OpenRouter、通过高通 AI Hub 和 GenieX 支持的高通，以及 Vercel。 感谢 Mercedes-Benz 和 Shopify 在预发布测试与评估中的合作。

感谢我们的构建者生态的支持：Atomic、Cactus、Hugging Face、llama.cpp、LM Studio、MLX、Ollama、基于 SGLang 的 RadixArk、.txt、Unsloth、vLLM 和 ZML。

引用

如需引用，请使用以下参考文献或 BibTeX：

@article{liquidAI2026LFM3,
  author = {Liquid AI},
  title = {Introducing LFM3: Every Modality for Specialized Intelligence},
  journal = {Liquid AI Blog},
  year = {2026},
  note = {www.liquid.ai/blog/lfm3},
}