# LFM3：功能、特点与使用指南

作者：Schnalz.net · 2026年10月29日

https://schnalz.net/zh-CN/ai-guides/lfm3-features-capabilities-and-how-to-use-it

> LFM3 是 Liquid AI 推出的系列 2B 级多模态模型，基于三混合主干网构建。它支持在边缘硬件上本地运行文本、图像、视频和音频任务，并可在 Hugging Face 或通过 Liquid AI API 访问。

## 重点

- Liquid AI 发布了 LFM3，这是一款专为边缘硬件构建的多模态开源权重模型系列。
- 这些模型采用三混合架构，结合了卷积、滑动窗口和全局注意力。
- 六个 2B 级模型涵盖了文本、视觉、音频、全能和决策功能。
- 每个 LFM3 模型都可以使用单张 GPU 进行本地微调。

## 什么是 LFM3？

Liquid AI 开发了 LFM3，作为新一代专为专用本地智能而构建的 Liquid Foundation Models。这个 2B 参数模型系列共享一个统一的主干网，并为文本、视觉、音频、全能和决策任务提供开源权重。

**LFM3 概览**

- **开发者**：Liquid AI
- **模型大小**：2B 参数范围
- **架构**：三混合（卷积、SWA、全局注意力）
- **预训练**：22 万亿 tokens
- **上下文窗口**：256,000 tokens
- **许可**：开源权重

这些基础模型经过 22 万亿 tokens 的训练，在直接于消费级和边缘设备上运行的同时提供更高的表达能力。开发者可以在单张 GPU 上微调每个模型，从 Hugging Face 下载开源权重，或使用 Liquid AI API 运行请求。

## LFM3 架构是如何工作的？

Liquid AI 为 LFM3 设计了 24 层的三混合架构，结合了门控短卷积、滑动窗口注意力和全局注意力。这种组合在资源受限的设备上保持了快速的上下文处理，而不会牺牲质量。

在其 24 层中，13 层是内核大小为 7 的门控短卷积，5 层是带有 256 token 窗口的滑动窗口注意力层，6 层是全局注意力层。该设计纳入了头部门控注意力以抑制激活异常值，并采用部分 RoPE 来稳定长上下文处理。

- **22T** 预训练 tokens
- **256K** 上下文窗口长度
- **~1 GB** 4-bit 内存占用
- **25%** 在 8K 上下文下比 LFM2 快

为了优化性能，Liquid AI 在 14 种硬件组合（包括手机、Raspberry Pi 5、笔记本电脑和云端处理器）上测试了 LFM3。在 8,000 token 上下文下，LFM3-1.7B 主干网的运行速度比 LFM2-1.2B 快约 25%，同时每个参数的短提示性能与之相当。

## LFM3 系列包含哪些模型？

LFM3 发布版包含六个专门模型，它们全部衍生自基础的 LFM3-1.7B 基础模型。开发者可以选择针对特定输入模态量身定制的模型，而不必部署单一的大型模型。

**LFM3 模型阵容**

| 模型 | 输入模态 | 核心功能 |
| --- | --- | --- |
| LFM3-1.7B | 文本 | 256K 上下文、本地代理后训练 |
| LFM3-VL-2B | 文本、图像、视频 | 逐步推理、自定义 164M 视觉编码器 |
| LFM3-Audio-2B | 文本、音频 | 因果处理、50ms TTFT、LiquidCodec 合成 |
| LFM3-Omni-2B | 文本、图像、视频、音频 | 统一的多模态输入与输出 |
| d1-2B | 文本、图像、视频 | 校准的决策智能 |
| d1-omni-2B | 文本、图像、视频、音频 | 用于复杂任务的全能决策模型 |

文本模型经过后训练，可在 Hermes Agent、Pi 和 OpenClaw 等代理框架中运行。视觉和音频模型包括自定义的内部编码器，例如 164M 视觉编码器，其使用的 FLOPs 比 Qwen3.5-2B 的视觉编码器少 2.2 倍。

## 哪些设备和平台支持 LFM3？

Liquid AI 对 LFM3 进行了优化，使其能够在笔记本电脑、手机、边缘芯片和云端环境中运行。支持的系统包括由 AMD Ryzen AI、Snapdragon、Apple Silicon 和 Ambarella 芯片驱动的硬件。

**适合**

- 在边缘和移动设备上本地运行
- 在单张 GPU 上进行微调
- 长达 256K-token 的上下文窗口
- 低至 50ms 的音频首字延迟 (TTFT)

**不太适合**

- 初始发布限于 2B 参数规模
- 长视觉推理需要明确的生成限制

端侧语音生成使用 LiquidCodec，这是一种音频标记器，在单个 Apple M4 Max CPU 线程上以大约 87 倍实时速度生成语音。文本模型在 4-bit 精度下需要约 1 GB 的内存，非常适合持续的后台任务。

## 如何访问和运行 LFM3

开发者可以从 Hugging Face 下载 LFM3 开源权重，或通过 Liquid AI Playground 和 API 访问模型。在本地运行 LFM3 需要 Python 和 Hugging Face Transformers 库。

1. 使用 pip install -U transformers 安装或更新 Transformers 库。
2. 使用 pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True) 初始化文本模型管道。
3. 将用户提示词字典传递给生成器管道以接收生成的文本。
4. 若要处理视觉输入，请安装 transformers>=5.21.0、torch、torchvision 和 pillow。
5. 使用 AutoModelForImageTextToText 加载 LiquidAI/LFM3-VL-2B，并使用 AutoProcessor 传递图像 URL 或张量。

> **提示**：运行 LFM3-VL-2B 进行视觉任务时，请在生成过程中设置明确的 max_new_tokens 值，因为逐步推理的输出可能会很长。

## LFM3 的限制是什么？

虽然 LFM3 在边缘硬件上提供了高效能，但初始发布仅限于小的 2B 级参数规模。需要庞大参数规模或深度多步通用知识的任务可能仍然需要更大的云端托管模型。

为了运行带有自定义工具集或专门领域知识的模型，开发者必须进行本地微调。此外，在本地运行多模态模型需要安装 PyTorch、Torchvision 和 Pillow 等特定依赖项。

## 常见问题

### 谁创建了 LFM3？

Liquid AI 创建了 LFM3，作为其专为边缘计算和专用本地智能而设计的 Liquid Foundation Model 系列的一部分。

### LFM3 是开源的吗？

Liquid AI 将 LFM3 作为开源权重模型在 Hugging Face 上发布，允许开发者在本地下载、运行和微调它们。

### 微调 LFM3 需要多少 GPU 内存？

Liquid AI 表示，LFM3 系列中的每个模型都可以使用单张 GPU 在本地进行微调。

### LFM3 支持什么大小的上下文窗口？

LFM3 文本模型支持高达 256,000 个 tokens 的上下文窗口。

### LFM3 系列涵盖哪些模态？

LFM3 包含六个模型，涵盖文本、图像、视频、音频、全能模态和校准的决策工作负载。

## 资料来源

- [Liquid AI：Introducing LFM3: Every Modality for Specialized Intelligence | Blog](https://www.liquid.ai/blog/lfm3)
- [Hugging Face：Build specialized multimodal models with LFM3](https://huggingface.co/blog/LiquidAI/lfm3)