LFM3：功能、特点与使用指南

什么是 LFM3？

Liquid AI 开发了 LFM3，作为新一代专为专用本地智能而构建的 Liquid Foundation Models。这个 2B 参数模型系列共享一个统一的主干网，并为文本、视觉、音频、全能和决策任务提供开源权重。

这些基础模型经过 22 万亿 tokens 的训练，在直接于消费级和边缘设备上运行的同时提供更高的表达能力。开发者可以在单张 GPU 上微调每个模型，从 Hugging Face 下载开源权重，或使用 Liquid AI API 运行请求。

LFM3 架构是如何工作的？

Liquid AI 为 LFM3 设计了 24 层的三混合架构，结合了门控短卷积、滑动窗口注意力和全局注意力。这种组合在资源受限的设备上保持了快速的上下文处理，而不会牺牲质量。

在其 24 层中，13 层是内核大小为 7 的门控短卷积，5 层是带有 256 token 窗口的滑动窗口注意力层，6 层是全局注意力层。该设计纳入了头部门控注意力以抑制激活异常值，并采用部分 RoPE 来稳定长上下文处理。

为了优化性能，Liquid AI 在 14 种硬件组合（包括手机、Raspberry Pi 5、笔记本电脑和云端处理器）上测试了 LFM3。在 8,000 token 上下文下，LFM3-1.7B 主干网的运行速度比 LFM2-1.2B 快约 25%，同时每个参数的短提示性能与之相当。

LFM3 系列包含哪些模型？

LFM3 发布版包含六个专门模型，它们全部衍生自基础的 LFM3-1.7B 基础模型。开发者可以选择针对特定输入模态量身定制的模型，而不必部署单一的大型模型。

文本模型经过后训练，可在 Hermes Agent、Pi 和 OpenClaw 等代理框架中运行。视觉和音频模型包括自定义的内部编码器，例如 164M 视觉编码器，其使用的 FLOPs 比 Qwen3.5-2B 的视觉编码器少 2.2 倍。

哪些设备和平台支持 LFM3？

Liquid AI 对 LFM3 进行了优化，使其能够在笔记本电脑、手机、边缘芯片和云端环境中运行。支持的系统包括由 AMD Ryzen AI、Snapdragon、Apple Silicon 和 Ambarella 芯片驱动的硬件。

端侧语音生成使用 LiquidCodec，这是一种音频标记器，在单个 Apple M4 Max CPU 线程上以大约 87 倍实时速度生成语音。文本模型在 4-bit 精度下需要约 1 GB 的内存，非常适合持续的后台任务。

如何访问和运行 LFM3

开发者可以从 Hugging Face 下载 LFM3 开源权重，或通过 Liquid AI Playground 和 API 访问模型。在本地运行 LFM3 需要 Python 和 Hugging Face Transformers 库。

1. 使用 pip install -U transformers 安装或更新 Transformers 库。
2. 使用 pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True) 初始化文本模型管道。
3. 将用户提示词字典传递给生成器管道以接收生成的文本。
4. 若要处理视觉输入，请安装 transformers>=5.21.0、torch、torchvision 和 pillow。
5. 使用 AutoModelForImageTextToText 加载 LiquidAI/LFM3-VL-2B，并使用 AutoProcessor 传递图像 URL 或张量。

LFM3 的限制是什么？

虽然 LFM3 在边缘硬件上提供了高效能，但初始发布仅限于小的 2B 级参数规模。需要庞大参数规模或深度多步通用知识的任务可能仍然需要更大的云端托管模型。

为了运行带有自定义工具集或专门领域知识的模型，开发者必须进行本地微调。此外，在本地运行多模态模型需要安装 PyTorch、Torchvision 和 Pillow 等特定依赖项。

常见问题

资料来源：Liquid AI · Hugging Face