Liquid AI 发布 LFM2.5-24B-A2B：24B 参数、每 token 仅 2B 激活的端侧推理智能体模型

Liquid AI 于 2026 年 10 月 13 日发布 LFM2.5-24B-A2B 与 LFM2.5-24B-A2B-Base，两者均为开放权重，可在 Hugging Face 获取。

架构与训练

模型沿用前代 LFM2-24B-A2B 的架构：40 层，每个 MoE 块 64 个专家、top-4 路由，混合门控短卷积与 GQA。变化有三点：上下文窗口由 32K 扩展到 131K token；词表经原地扩展由 65K 增至 128K token，以改善非拉丁文本分词；前代不是推理模型，而这一代只做推理，先输出显式思维链再给最终答案。

预训练规模从约 17T token 提升到约 33T。中期训练加入两个阶段：32K 上下文下 2T token，侧重推理、数学、代码、指令遵循与多语种文本；131K 上下文下 300B token，侧重长上下文。两阶段全程包含工具调用与多轮轨迹。后训练分五步：监督微调、教师专精、非智能体任务的多领域在线策略蒸馏（MOPD）、智能体任务的第二轮 MOPD，最后在 OpenClaw、Hermes Agent、Pi、OpenCode 等智能体框架内进行智能体强化学习。

基准表现

官方用 16 个基准与 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning（30B-A3B）对比，所有模型均用 vLLM 及各基准推荐的生成参数评测。作者称其是这组中参数最少的模型，但能与总参数和激活参数约多 50% 的 MoE 竞争。

工具使用与智能体类基准中，它在 8 项里 5 项领先或持平：AutomationBench 27.69（次优 8.72）、BFCLv4 65.01、ToolSandbox 80.71、LiveClaw 48.09（对比 38.19）、τ³-Bench Banking 8.04；PinchBench 为 83.18，低于 Qwen 的 89.93 和 Nemotron 的 84.20；WebArena Verified 26.75 也落后于 Qwen 的 37.62。三项指令遵循基准（IFEval 96.75、IFBench 74.69、Multi-IF 84.38）均领先。知识与编码类基准则落后：GPQA Diamond 74.42、HLE 7.40、AA-Omniscience -24.90、SWE-Bench Verified (OpenCode) 51.00、SciCode 32.71。作者因此建议在知识密集型任务上配合检索或网页搜索。

推理速度

模型发布即支持 llama.cpp、MLX、vLLM、SGLang 与 ONNX。端侧解码在 Apple M5 Max 上为 184 tok/s，在 Ryzen AI Max+ 395 上为 114 tok/s，官方称最高比次优模型快 1.7 倍且占用内存最少。单张 NVIDIA B300 在高并发下输出可达 21K tok/s 以上。

使用方式

官方示例要求 transformers>=5.0.0，可先 pip install -U transformers，再用 AutoModelForCausalLM 加载并设置 dtype="bfloat16"、device_map="auto"，示例生成参数为 temperature 0.1、top_k 50、repetition_penalty 1.05、max_new_tokens 512。

在智能体框架中，可先通过任意 OpenAI 兼容后端本地部署，再让框架指向该服务。以 Hermes Agent 为例，可设置自定义 provider、base_url（如 http://localhost:8080/v1）、模型名、context_length 131072、chat_completions 模式与工具使用强制开关。端口因后端而异：llama.cpp 与 MLX 用 8080，vLLM 用 8000，SGLang 用 30000，LM Studio 用 1234。OpenClaw 与 Pi 的配置需查阅模型卡和完整安装指南。

需要说明的是，上述基准与速度数据均为发布方自述，没有独立复现；文中所有数字都对应特定硬件、并发和评测设置，不宜直接外推。