2026/10/30 · Weekly Radar
Liquid AI 在 HF 發布 LFM3 系列：同一個約 2B 骨幹衍生文字、視覺、音訊、omni 與決策共六個開源權重模型，主打 4-bit 約 1 GB、256K context，單張 GPU 就能微調。
這篇是 Liquid AI 團隊在 Hugging Face 部落格發表的 LFM3 發布文。LFM3 是新一代 Liquid Foundation Models，在同一個共享骨幹上涵蓋文字、視覺、音訊、omni 與決策模型，全部落在約 2B 參數級距。相較 LFM2 的四項改變：效率上，LFM3-1.7B 據稱勝過 LFM2.5-2.6B 且參數少 35%；涵蓋上，共六個 2B 級模型，含第一個 omni 模型，視覺模型也支援影片輸入；邊緣部署上，文字模型 4-bit 約 1 GB、context window 256K；特化上，每個模型都能用單張 GPU 微調。
架構搜尋在迴圈中直接對 14 種裝置與後端組合實測，從 Raspberry Pi 5、手機到筆電、雲端 CPU 與 GPU，以及 Qualcomm Hexagon NPU。LFM3-1.7B-Base 共 24 層：13 層 gated short convolution（kernel 7，LFM2 為 3）、5 層 sliding-window attention（256 token 視窗）、6 層 global attention。其他改動包括 attention 中的 head-wise sigmoid gating、global 層的 partial RoPE 與 sandwich normalization。以每參數計，它在邊緣裝置短 prompt 上與 LFM2-1.2B 相當，8K context 時據稱快約 25%。預訓練用了 22T token，詞表與 LFM2.5-8B-A1B 相同為 128K；最後 3.5T token 的 mid-training 加入更多 agent 與 tool-call 資料，並把 context 延伸到 256K。
LFM3-1.7B 為文字到文字；LFM3-VL-2B 輸入文字、圖片與影片，輸出文字；LFM3-Audio-2B 輸入文字與音訊，輸出文字與語音；LFM3-Omni-2B 輸入文字、圖片、影片與音訊，輸出文字與語音；d1-2B 與 d1-omni-2B 是回傳校準答案的決策模型。新的自研編碼器方面：視覺編碼器 164M 參數，混合卷積與 attention，宣稱準確度與 Qwen3.5-2B 的視覺編碼器相當但 FLOPs 少 2.2 倍，運算量約為 SigLIP2 的三分之一，影片相鄰影格成對合併讓時間序列長度減半；音訊編碼器為 causal，首 token 延遲最低 50 ms，LiquidCodec 在 Apple M4 Max 單一 CPU 執行緒上解碼約 87 倍即時，並支援串流。
每個模型都附 transformers 範例，安裝需求為 VL 模型 transformers>=5.21.0、音訊與 omni 模型 >=5.20.2、d1-2B >=5.19。LFM3-1.7B 在 WebArena-Verified 拿 38.42，LFM2.5-2.6B 只有 3.02，並據稱在部分長瀏覽器與商用 App 任務上勝過 Qwen3.5-9B。LFM3-VL-2B 為 1.9B 參數（LFM2.5-VL-3B 為 3.1B），62 個視覺基準平均從 57.6 升到 71.4，號稱與 Gemma 4 12B 相當，也是第一個接受影片的 LFM 視覺模型。LFM3-Audio-2B 支援 18 種語言，語音品質 UTMOSv2 3.83（LFM2.5-Audio-1.5B 為 3.22），並新增音訊理解與 tool calling。LFM3-Omni-2B 據稱在 Daily-Omni、WorldSense、AV-SpeakerBench 上勝過最大 10.7B 的模型如 Qwen2.5-Omni-7B。d1-2B 取代 d1-3B，參數少三分之一，ImajevBench 75.5 對 64.0，一次 forward pass 可回答多個問題；d1-omni-2B 在問題改用語音提出時幾乎保住全部準確度。
文章強調單 GPU 微調，並附十本 Colab 筆記：SFT（JSON 抽取、智慧家庭函式呼叫、收據轉 JSON、語音醫療影像問答、新的 TTS 聲音）、DPO（可拒答的檢索式問答）、GRPO（108 個工具的手機 App tool calling、LaTeX 轉錄）、CPT（從原始文字學土耳其語）。
文中介紹三個以 LFM3-VL-2B 為基礎、分別負責編排、導航與操作的模型。操作模型在四個 LIBERO 套件平均成功率 96.2%、RoboCasa-GR1 45.7%，在 Jetson AGX Orin 上以 TensorRT FP16 產生 action chunk 不到 50 ms。
所有模型皆以開源權重形式放在 Hugging Face 的 LFM3 collection，另提供 LFM3-1.7B-Base 供自訂後訓練，並附微調 cookbook 與本地 agent 指南。整體而言技術內容具體、可檢驗，但基準數字幾乎全為自行回報、方法細節少，比較對象的挑選也偏有利，實際表現仍待獨立評測確認。
「和大六倍的 Gemma 4 12B 打平」這種挑對手的比法照例登場，但 14 種硬體組合在迴圈裡做架構搜尋、還附十本 Colab 微調筆記——至少這次把作業攤開，讓你自己驗。