# LFM3：功能、特點與使用指南

作者：Schnalz.net · 2026年10月29日

https://schnalz.net/zh-HK/ai-guides/lfm3-features-capabilities-and-how-to-use-it

> LFM3 是 Liquid AI 推出的一系列 2B 級多模態模型，基於三混合主幹網構建。它支援在邊緣硬體上本地執行文本、圖像、影片和音訊任務，並可在 Hugging Face 或透過 Liquid AI API 存取。

## 重點

- Liquid AI 發布了 LFM3，這是一系列專為邊緣硬體構建的多模態開源權重模型。
- 這些模型採用三混合架構，結合了卷積、滑動視窗和全局注意力。
- 六個 2B 級模型涵蓋了文本、視覺、音訊、全能和決策功能。
- 每個 LFM3 模型都可以使用單張 GPU 進行本地微調。

## 什麼是 LFM3？

Liquid AI 開發了 LFM3，作為新一代專為專用本地智慧而構建的 Liquid Foundation Models。這個 2B 參數模型系列共用一個統一的主幹網，併為文本、視覺、音訊、全能和決策任務提供開源權重。

**LFM3 概覽**

- **開發者**：Liquid AI
- **模型大小**：2B 參數範圍
- **架構**：三混合（卷積、SWA、全局注意力）
- **預訓練**：22 兆 tokens
- **上下文視窗**：256,000 tokens
- **授權**：開源權重

這些基礎模型經過 22 兆 tokens 的訓練，在直接於消費級和邊緣設備上執行的同時提供更高的表達能力。開發者可以在單張 GPU 上微調每個模型，從 Hugging Face 下載開源權重，或使用 Liquid AI API 執行請求。

## LFM3 架構是如何運作的？

Liquid AI 為 LFM3 設計了 24 層的三混合架構，結合了閘控短卷積、滑動視窗注意力以及全局注意力。這種組合在資源受限的設備上保持了快速的上下文處理，而不會犧牲品質。

在其 24 層中，13 層是核心大小為 7 的閘控短卷積，5 層是帶有 256 token 視窗的滑動視窗注意力層，6 層是全局注意力層。該設計納入了頭部閘控注意力以抑制啟動異常值，並採用部分 RoPE 來穩定長上下文處理。

- **22T** 預訓練 tokens
- **256K** 上下文視窗長度
- **~1 GB** 4-bit 記憶體佔用
- **25%** 在 8K 上下文下比 LFM2 快

為了優化效能，Liquid AI 在 14 種硬體組合（包括手機、Raspberry Pi 5、筆記型電腦和雲端處理器）上測試了 LFM3。在 8,000 token 上下文下，LFM3-1.7B 主幹網的執行速度比 LFM2-1.2B 快約 25%，同時每個參數的短提示效能與之相當。

## LFM3 系列包含哪些模型？

LFM3 發布版包含六個專用模型，它們全部衍生自基礎的 LFM3-1.7B 基礎模型。開發者可以選擇針對特定輸入模態量身定制的模型，而不必部署單一的大型模型。

**LFM3 模型陣容**

| 模型 | 輸入模態 | 核心功能 |
| --- | --- | --- |
| LFM3-1.7B | 文本 | 256K 上下文、本地代理後訓練 |
| LFM3-VL-2B | 文本、圖像、影片 | 逐步推理、自訂 164M 視覺編碼器 |
| LFM3-Audio-2B | 文本、音訊 | 因果處理、50ms TTFT、LiquidCodec 合成 |
| LFM3-Omni-2B | 文本、圖像、影片、音訊 | 統一的多模態輸入與輸出 |
| d1-2B | 文本、圖像、影片 | 校準的決策智慧 |
| d1-omni-2B | 文本、圖像、影片、音訊 | 用於複雜任務的全能決策模型 |

文本模型經過後訓練，可在 Hermes Agent、Pi 和 OpenClaw 等代理框架中執行。視覺和音訊模型包括自訂的內部編碼器，例如 164M 視覺編碼器，其使用的 FLOPs 比 Qwen3.5-2B 的視覺編碼器少 2.2 倍。

## 哪些設備和平台支援 LFM3？

Liquid AI 對 LFM3 進行了優化，使其能夠在筆記型電腦、手機、邊緣晶片和雲端環境中執行。支援的系統包括由 AMD Ryzen AI、Snapdragon、Apple Silicon 和 Ambarella 晶片驅動的硬體。

**適合**

- 在邊緣和移動設備上本地執行
- 在單張 GPU 上進行微調
- 長達 256K-token 的上下文視窗
- 低至 50ms 的音訊首字元延遲 (TTFT)

**不太適合**

- 初始發布限於 2B 參數規模
- 長視覺推理需要明確的生成限制

端側語音生成使用 LiquidCodec，這是一種音訊標記器，在單個 Apple M4 Max CPU 執行緒上以大約 87 倍即時的速度生成語音。文本模型在 4-bit 精度下需要約 1 GB 的記憶體，非常適合持續的背景任務。

## 如何存取和執行 LFM3

開發者可以從 Hugging Face 下載 LFM3 開源權重，或透過 Liquid AI Playground 和 API 存取模型。在本地執行 LFM3 需要 Python 和 Hugging Face Transformers 庫。

1. 使用 pip install -U transformers 安裝或更新 Transformers 庫。
2. 使用 pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True) 初始化文本模型管道。
3. 將使用者提示詞字典傳遞給生成器管道以接收生成的文本。
4. 若要處理視覺輸入，請安裝 transformers>=5.21.0、torch、torchvision 和 pillow。
5. 使用 AutoModelForImageTextToText 載入 LiquidAI/LFM3-VL-2B，並使用 AutoProcessor 傳遞圖像 URL 或張量。

> **貼士**：執行 LFM3-VL-2B 進行視覺任務時，請在生成過程中設置明確的 max_new_tokens 值，因為逐步推理的輸出可能會很長。

## LFM3 的限制是什麼？

雖然 LFM3 在邊緣硬體上提供了高效能，但初始發布僅限於小的 2B 級參數規模。需要龐大參數規模或深度多步通用知識的任務可能仍然需要更大的雲端託管模型。

為了執行帶有自訂工具集或專門領域知識的模型，開發者必須進行本地微調。此外，在本地執行多模態模型需要安裝 PyTorch、Torchvision 和 Pillow 等特定依賴項。

## 常見問題

### 誰創建了 LFM3？

Liquid AI 創建了 LFM3，作為其專為邊緣運算和專用本地智慧而設計的 Liquid Foundation Model 系列的一部分。

### LFM3 是開源的嗎？

Liquid AI 將 LFM3 作為開源權重模型在 Hugging Face 上發布，允許開發者在本地下載、執行和微調它們。

### 微調 LFM3 需要多少 GPU 記憶體？

Liquid AI 表示，LFM3 系列中的每個模型都可以使用單張 GPU 在本地進行微調。

### LFM3 支援什麼大小的上下文視窗？

LFM3 文本模型支援高達 256,000 個 tokens 的上下文視窗。

### LFM3 系列涵蓋哪些模態？

LFM3 包含六個模型，涵蓋文本、圖像、影片、音訊、全能模態和校準的決策工作負載。

## 資料來源

- [Liquid AI：Introducing LFM3: Every Modality for Specialized Intelligence | Blog](https://www.liquid.ai/blog/lfm3)
- [Hugging Face：Build specialized multimodal models with LFM3](https://huggingface.co/blog/LiquidAI/lfm3)