Liquid AI 发布了 LFM3，这是其新一代 Liquid Foundation Models。Liquid AI LFM3 是由 6 个开放权重、2B 级模型组成的系列，它们共享同一个骨干网络。该系列覆盖文本、视觉、音频、全模态（omni）和决策任务。每个模型都能在单张 GPU 上完成微调，开发者随后可以将其部署在手机、笔记本、私有服务器或云端。
要点速览
- 规模： LFM3-1.7B 有 17.3 亿参数和 256K 上下文窗口。LFM3-VL-2B 为 19.2 亿参数、128K 上下文。LFM3-Omni-2B 为 22 亿参数。
- 运行环境： 4-bit 量化下约需 1 GB 内存，因此可在手机和笔记本上运行。提供 GGUF、MLX、ONNX、FP8 和 NVFP4 格式的权重。
- 性能： LFM3-1.7B 在 29 项基准上平均得分 49.37，高于 Qwen3.5-9B 的 47.24（数据来自 Liquid 自家评测）。
- 最强项： IFEval 96.66；AutomationBench 41.29，而 Qwen3.5-9B 为 15.10。
- 最弱项： Humanity’s Last Exam（无工具）7.17；RULER 128K 为 65.56，而 Qwen3.5-9B 为 87.11。
Liquid AI LFM3 是什么？
LFM3 是 Liquid AI 的多模态模型系列，从 1 个基座模型分出 6 个模型，全部以 LFM3-1.7B-Base 为起点。
本次发布包含：
- LFM3-1.7B： 面向本地智能体的文本模型，针对 Hermes Agent、Pi 和 OpenClaw 等运行框架（harness）进行了后训练。
- LFM3-VL-2B： LFM 系列首个支持视频输入的视觉模型，按 2 fps 采样。
- LFM3-Audio-2B： 支持语音输入与输出，覆盖 18 种语言，并支持工具调用。
- LFM3-Omni-2B： 将视觉、音频和语言整合到单一模型中，可以文本或语音作答。
- d1-2B 与 d1-Omni-2B： 决策模型，可在一次前向传播中回答多个问题。
三混合（tri-hybrid）架构如何工作？
该骨干网络在 24 层 中混合了 3 种算子：13 层门控短卷积、5 层滑动窗口注意力（SWA）和 6 层全局注意力。SWA 窗口为 256 个 token，卷积核从 3 扩大到 7。
Liquid AI 团队是通过“硬件在环”（hardware-in-the-loop）的架构搜索找到这一组合的。LFM2 只在 1 部手机和 1 台笔记本上调优；LFM3 则在 14 种设备与后端组合上调优，其中包括树莓派 5 和高通 Hexagon NPU。
其他改动包括：注意力层引入逐头 sigmoid 门控（head-wise sigmoid gates）、全局层使用部分 RoPE（partial RoPE），以及 sandwich norm。基座模型训练了 22T token，其中最后 3.5T token 属于智能体密集型中期训练，同时将上下文扩展至 256K。
后训练分 4 个阶段：先是 1.75T token 的 SFT，接着是混合强化学习；随后将 6 个专家教师模型蒸馏进 1 个模型，最后进行智能体强化学习（agentic RL）。
LFM3-1.7B 的基准表现如何？
Liquid AI 称 LFM3-1.7B 以少 35% 的参数超过了 LFM2.5-2.6B。更值得关注的是智能体相关结果：在 WebArena-Verified 上得 38.42，Qwen3.5-9B 为 28.94；在 BFCL V4 上得 71.39，Qwen3.5-9B 为 62.83。
在知识与智能体编程方面，参数规模更大的模型仍然占优：GPQA Diamond 为 63.37，Qwen3.5-9B 为 80.40；SWE-bench Verified 为 43.40，Qwen3.5-9B 为 51.20。接入检索后差距会缩小：Humanity’s Last Exam 从 7.17 提升到 13.90（启用工具）。
LFM3-1.7B 与竞品对比
| 特性 | LFM3-1.7B | MiniCPM5-2B | Qwen3.5-4B | Gemma 4 E4B |
|---|---|---|---|---|
| 参数量 | 1.73B | 2.52B | 4B LM（Hub 上含视觉为 5B） | 4.5B 等效（含 embedding 为 8B） |
| 架构 | 卷积 + SWA + 全局注意力 | 标准 Llama Transformer | 门控 DeltaNet + 门控注意力 | 滑动窗口 + 全局注意力 |
| 上下文 | 256K | 131,072 | 262,144 | 128K |
| 输入模态 | 文本 | 文本 | 文本、图像、视频 | 文本、图像、音频 |
| 许可证 | LFM Open License v1.0（1000 万美元营收门槛） | Apache 2.0 | Apache 2.0 | Apache 2.0 |
| BFCL V4（Liquid 评测） | 71.39 | 62.65 | 55.12 | 48.25 |
| WebArena-Verified（Liquid 评测） | 38.42 | 9.11 | 21.92 | 17.06 |
| SWE-bench Verified（Liquid 评测） | 43.40 | 34.80 | 41.20 | 0.50 |
| GPQA Diamond（Liquid 评测） | 63.37 | 65.15 | 75.76 | 57.88 |
| GPQA Diamond（厂商自报） | 63.37 | 70.2 | 76.2 | 58.6 |
| RULER 128K（Liquid 评测） | 65.56 | 37.96 | 84.63 | 18.82 |
| Liquid 29 项基准均值 | 49.37 | 39.19 | 39.27 | 31.74 |
视觉、音频、全模态与决策模型表现如何？
LFM3-VL-2B 在 62 项视觉基准上平均得分 71.4。Gemma 4 12B 在同一套测试上得 71.7。在该对比中，LFM3-VL-2B 在视觉定位（77.3）和 GUI 理解（83.1）上领先，但在视频（61.2）和智能体任务（42.5）上仍落后于更大的 API 模型。
LFM3-Audio-2B 的英语 WER 达到 6.2，TTS 的 UTMOSv2 得分为 3.8。LFM3-Omni-2B 在 Daily-Omni 上得 70.1，Qwen2.5-Omni-7B 为 61.3。
d1-2B 以少三分之一的参数取代 d1-3B，并将 Decision Bench 从 83.6 提升到 85.2。
开发者如何部署 LFM3？
权重已在 Hugging Face、Liquid AI Playground 和 Liquid API 上提供。文档列出了文本与视觉模型的 GGUF、MLX 和 ONNX 格式。支持的运行时包括 llama.cpp、MLX、vLLM、SGLang、Ollama 和 Transformers。
在端侧，Liquid AI 以 llama.cpp 的 Q4_0 量化、32K 上下文进行了实测。完整 128K 上下文需要 1.6 GB 的 KV cache；Qwen3.5-4B 则需要 4.3 GB。在 1 张 NVIDIA B300 上使用 SGLang，LFM3-1.7B 在 1,024 并发请求下每天可产出 3.6B token。
Liquid AI 还展示了模型的专业化能力：在 1 张 A100 上做数小时的 SFT 与 GRPO，可将风机叶片缺陷分类任务的准确率提升到 67%。
核心结论
- 6 个开放权重的 2B 级模型共享 1 个三混合骨干网络。
- LFM3-1.7B 在 4-bit 下约 1 GB 即可运行，支持 256K 上下文。
- 在 BFCL V4、WebArena-Verified 和 AutomationBench 上超过 Qwen3.5-9B。
- 知识与智能体编程仍是明显短板。
- 年营收 1000 万美元以内可免费商用。
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/jishu/72828.html
