人工智能

Liquid AI推出LFM2.5-2.6B模型,在设备本地运行智能体

Liquid AI宣布在Hugging Face上提供LFM2.5-2.6B和LFM2.5-2.6B-Base模型,支持在本地调用工具和执行多步骤工作流。该模型旨在让计算机和手机运行快速智能体,内存占用低于2.5 GB。

2026-08-07
1 分钟阅读
8 浏览量
فريق تحرير certi.news
Liquid AI推出LFM2.5-2.6B模型,在设备本地运行智能体

Liquid AI宣布在Hugging Face上提供LFM2.5-2.6BLFM2.5-2.6B-Base模型,用于在设备本地运行人工智能智能体,而不是完全依赖云端推理。据该公司介绍,该模型支持工具调用和多步骤工作流,同时具备适合在笔记本电脑和手机上使用的规模与速度。

该版本面向需要大规模部署智能体的开发者,同时让数据保留在设备上,减少对云端推理费用的依赖。Liquid AI表示,该模型在工具使用、指令遵循和多步骤智能体任务方面,可与规模约为其四倍的模型竞争。

针对智能体任务的定制训练

LFM2.5-2.6B预训练使用了约34万亿个令牌,中间训练阶段将上下文窗口扩展至12.8万个令牌。随后,该模型经历了四个阶段,从基础模型转变为能够处理工具和连续任务的智能体。

  • 有监督微调:进行了两轮训练,重点关注工具使用数据、网页搜索和智能体工作流。
  • 教师模型专业化:针对数学、编程和工具使用等不同领域分别训练专业教师模型。
  • 多领域蒸馏:将专业模型的能力迁移到一个模型中。
  • 智能体强化训练:在实际智能体框架内进行多轮训练,使模型学会处理不同工具、系统提示和多步骤任务环境。

智能体强化训练系统将模型优化、推理和环境执行分开。该系统使用训练引擎优化模型,使用Rollout引擎通过最新策略生成动作,而强化框架则协调训练、轨迹收集和奖励流程。动作在Sandbox服务中执行,其中Blackbox Harness承载智能体并协调其与任务环境的交互,无需修改受支持的框架。

测试结果与性能

Liquid AI将该模型与规模约为其四倍的模型进行了比较,其中包括gemma-4-E2B-it、gemma-4-E4B-it、Qwen3.5-4B和Qwen3.5-9B。LFM2.5-2.6B是组内最小的模型,但在比较中列出的所有指令遵循测试中均排名第一;在工具使用测试中也全部领先,BFCLv4除外,在该测试中Qwen3.5-9B超过了它。

该模型在Multi-IF测试中获得80.07分,在IFStruct中获得85.49分,在ToolSandbox中获得77.83分,在英文Claw-Eval平均分中获得62.85分。在智能体任务上,它超过了两款Gemma模型,并保持了与Qwen模型相近的性能;而在编程方面,更大的模型仍明显领先。

运行速度与可用性

该模型从第一天起便兼容多种推理工具,包括llama.cpp、MLX、vLLM、SGLang和ONNX。公司表示,在Apple M5 Max上,其生成速度达到每秒220个令牌,在AMD Ryzen AI Max+ 395处理器上达到每秒113个令牌,同时模型运行所需内存低于2.5 GB。公司还指出,能够在手机上运行的智能体可达到每秒30个令牌的速度。

在图形处理器上,该模型在高并发条件下可达到约每秒1.5万个输出令牌,相当于单个H100每天约13亿个令牌。开发者可以在浏览器中试用WebGPU演示,也可以将该模型与OpenClaw、Hermes Agent和Pi等本地智能体框架结合使用;此外,还提供了一个在设备上运行的研究智能体演示。

新闻来源
Hugging Face Blog
查看原始来源 ↗
ف
作者

فريق تحرير certi.news

同一分类

你可能还喜欢

查看所有新闻