LFM3：功能、特點與使用指南

什麼是 LFM3？

Liquid AI 開發了 LFM3，作為新一代專為專用本地智慧而構建的 Liquid Foundation Models。這個 2B 參數模型系列共用一個統一的主幹網，併為文本、視覺、音訊、全能和決策任務提供開源權重。

這些基礎模型經過 22 兆 tokens 的訓練，在直接於消費級和邊緣設備上執行的同時提供更高的表達能力。開發者可以在單張 GPU 上微調每個模型，從 Hugging Face 下載開源權重，或使用 Liquid AI API 執行請求。

LFM3 架構是如何運作的？

Liquid AI 為 LFM3 設計了 24 層的三混合架構，結合了閘控短卷積、滑動視窗注意力以及全局注意力。這種組合在資源受限的設備上保持了快速的上下文處理，而不會犧牲品質。

在其 24 層中，13 層是核心大小為 7 的閘控短卷積，5 層是帶有 256 token 視窗的滑動視窗注意力層，6 層是全局注意力層。該設計納入了頭部閘控注意力以抑制啟動異常值，並採用部分 RoPE 來穩定長上下文處理。

為了優化效能，Liquid AI 在 14 種硬體組合（包括手機、Raspberry Pi 5、筆記型電腦和雲端處理器）上測試了 LFM3。在 8,000 token 上下文下，LFM3-1.7B 主幹網的執行速度比 LFM2-1.2B 快約 25%，同時每個參數的短提示效能與之相當。

LFM3 系列包含哪些模型？

LFM3 發布版包含六個專用模型，它們全部衍生自基礎的 LFM3-1.7B 基礎模型。開發者可以選擇針對特定輸入模態量身定制的模型，而不必部署單一的大型模型。

文本模型經過後訓練，可在 Hermes Agent、Pi 和 OpenClaw 等代理框架中執行。視覺和音訊模型包括自訂的內部編碼器，例如 164M 視覺編碼器，其使用的 FLOPs 比 Qwen3.5-2B 的視覺編碼器少 2.2 倍。

哪些設備和平台支援 LFM3？

Liquid AI 對 LFM3 進行了優化，使其能夠在筆記型電腦、手機、邊緣晶片和雲端環境中執行。支援的系統包括由 AMD Ryzen AI、Snapdragon、Apple Silicon 和 Ambarella 晶片驅動的硬體。

端側語音生成使用 LiquidCodec，這是一種音訊標記器，在單個 Apple M4 Max CPU 執行緒上以大約 87 倍即時的速度生成語音。文本模型在 4-bit 精度下需要約 1 GB 的記憶體，非常適合持續的背景任務。

如何存取和執行 LFM3

開發者可以從 Hugging Face 下載 LFM3 開源權重，或透過 Liquid AI Playground 和 API 存取模型。在本地執行 LFM3 需要 Python 和 Hugging Face Transformers 庫。

1. 使用 pip install -U transformers 安裝或更新 Transformers 庫。
2. 使用 pipeline("text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True) 初始化文本模型管道。
3. 將使用者提示詞字典傳遞給生成器管道以接收生成的文本。
4. 若要處理視覺輸入，請安裝 transformers>=5.21.0、torch、torchvision 和 pillow。
5. 使用 AutoModelForImageTextToText 載入 LiquidAI/LFM3-VL-2B，並使用 AutoProcessor 傳遞圖像 URL 或張量。

LFM3 的限制是什麼？

雖然 LFM3 在邊緣硬體上提供了高效能，但初始發布僅限於小的 2B 級參數規模。需要龐大參數規模或深度多步通用知識的任務可能仍然需要更大的雲端託管模型。

為了執行帶有自訂工具集或專門領域知識的模型，開發者必須進行本地微調。此外，在本地執行多模態模型需要安裝 PyTorch、Torchvision 和 Pillow 等特定依賴項。

常見問題

資料來源：Liquid AI · Hugging Face