人工智能

Liquid AI推出LFM2.5-2.6B模型,在设备本地运行智能体

Liquid AI宣布在Hugging Face上提供LFM2.5-2.6B和LFM2.5-2.6B-Base模型,支持在本地调用工具和执行多步骤工作流。该模型旨在让计算机和手机运行快速智能体,内存占用低于2.5 GB。

2026-08-07
1 分钟阅读
385 浏览量
certi.news Editorial Team
Liquid AI推出LFM2.5-2.6B模型,在设备本地运行智能体

Liquid AI宣布在Hugging Face上提供LFM2.5-2.6B和LFM2.5-2.6B-Base模型,用于在设备本地运行人工智能智能体,而不是完全依赖云端推理。据该公司介绍,该模型支持工具调用和多步骤工作流,同时具备适合在笔记本电脑和手机上使用的规模与速度。

该版本面向需要大规模部署智能体的开发者,同时让数据保留在设备上,减少对云端推理费用的依赖。Liquid AI表示,该模型在工具使用、指令遵循和多步骤智能体任务方面,可与规模约为其四倍的模型竞争。

针对智能体任务的定制训练

LFM2.5-2.6B预训练使用了约34万亿个令牌,中间训练阶段将上下文窗口扩展至12.8万个令牌。随后,该模型经历了四个阶段,从基础模型转变为能够处理工具和连续任务的智能体。

  • 有监督微调:进行了两轮训练,重点关注工具使用数据、网页搜索和智能体工作流。
  • 教师模型专业化:针对数学、编程和工具使用等不同领域分别训练专业教师模型。
  • 多领域蒸馏:将专业模型的能力迁移到一个模型中。
  • 智能体强化训练:在实际智能体框架内进行多轮训练,使模型学会处理不同工具、系统提示和多步骤任务环境。

智能体强化训练系统将模型优化、推理和环境执行分开。该系统使用训练引擎优化模型,使用Rollout引擎通过最新策略生成动作,而强化框架则协调训练、轨迹收集和奖励流程。动作在Sandbox服务中执行,其中Blackbox Harness承载智能体并协调其与任务环境的交互,无需修改受支持的框架。

测试结果与性能

Liquid AI将该模型与规模约为其四倍的模型进行了比较,其中包括gemma-4-E2B-it、gemma-4-E4B-it、Qwen3.5-4B和Qwen3.5-9B。LFM2.5-2.6B是组内最小的模型,但在比较中列出的所有指令遵循测试中均排名第一;在工具使用测试中也全部领先,BFCLv4除外,在该测试中Qwen3.5-9B超过了它。

该模型在Multi-IF测试中获得80.07分,在IFStruct中获得85.49分,在ToolSandbox中获得77.83分,在英文Claw-Eval平均分中获得62.85分。在智能体任务上,它超过了两款Gemma模型,并保持了与Qwen模型相近的性能;而在编程方面,更大的模型仍明显领先。

运行速度与可用性

该模型从第一天起便兼容多种推理工具,包括llama.cpp、MLX、vLLM、SGLang和ONNX。公司表示,在Apple M5 Max上,其生成速度达到每秒220个令牌,在AMD Ryzen AI Max+ 395处理器上达到每秒113个令牌,同时模型运行所需内存低于2.5 GB。公司还指出,能够在手机上运行的智能体可达到每秒30个令牌的速度。

在图形处理器上,该模型在高并发条件下可达到约每秒1.5万个输出令牌,相当于单个H100每天约13亿个令牌。开发者可以在浏览器中试用WebGPU演示,也可以将该模型与OpenClaw、Hermes Agent和Pi等本地智能体框架结合使用;此外,还提供了一个在设备上运行的研究智能体演示。

新闻来源
Hugging Face Blog
查看原始来源 ↗
c
作者

certi.news Editorial Team

你需要知道的

Liquid AI 已通过 Hugging Face 提供 LFM2.5-2.6B 和 LFM2.5-2.6B-Base 模型,可在电脑和手机上本地运行 AI 智能体。据公司介绍,该模型支持工具调用和多步骤工作流,运行时所需内存低于 2.5 GB。

  • 这两个模型已在 Hugging Face 上提供,可在本地使用,而不必完全依赖云端推理。
  • LFM2.5-2.6B 支持工具调用、网页搜索和多步骤智能体任务。
  • 该模型预训练使用了约 34 万亿个 token,并在中期训练期间将上下文窗口扩展至 128,000 个 token。
  • 该模型兼容 llama.cpp、MLX、vLLM、SGLang 和 ONNX 推理工具。
  • Liquid AI 表示,该模型在 Apple M5 Max 上的速度最高可达每秒 220 个 token,内存占用低于 2.5 GB。
  • 该模型在部分指令遵循和工具使用测试中超过了更大的模型,但在编程方面仍弱于更大的模型。

常见问题

LFM2.5-2.6B 和 LFM2.5-2.6B-Base 在哪里提供?

这两个模型均可在 Hugging Face 平台上获取。

该模型需要多少内存?

Liquid AI 表示,运行该模型需要低于 2.5 GB 的内存。

该模型兼容哪些推理工具?

该模型在发布时即兼容 llama.cpp、MLX、vLLM、SGLang 和 ONNX。

该模型是否胜过所有更大的模型?

不是。该模型在指令遵循测试中名列前茅,并在大多数工具使用测试中表现更好,但 Qwen3.5-9B 在 BFCLv4 中胜过它,而更大的模型在编程方面明显领先。

同一分类

你可能还喜欢

查看所有新闻