Liquid AI hat die Modelle LFM2.5-2.6B und LFM2.5-2.6B-Base auf Hugging Face verfügbar gemacht, um KI-Agenten lokal auf Geräten auszuführen, statt vollständig auf Cloud-Inferenz angewiesen zu sein. Das Modell unterstützt laut Unternehmen Tool-Aufrufe und mehrstufige Workflows und bietet eine für den Einsatz auf Laptops und Smartphones geeignete Größe und Geschwindigkeit.
Die Veröffentlichung richtet sich an Entwickler, die Agenten in großem Maßstab bereitstellen müssen, während die Daten auf dem Gerät bleiben und die Abhängigkeit von Cloud-Inferenzkosten verringert wird. Liquid AI zufolge konkurriert das Modell bei Tool-Nutzung, Befolgung von Anweisungen und mehrstufigen Agentenaufgaben mit Modellen, die ungefähr viermal größer sind.
Spezielles Training für Agentenaufgaben
LFM2.5-2.6B wurde vorab mit etwa 34 Billionen Tokens trainiert. In der Zwischenphase des Trainings wurde das Kontextfenster auf 128.000 Tokens erweitert. Anschließend durchlief das Modell vier Phasen, um es von einem Basismodell in einen Agenten umzuwandeln, der mit Tools und aufeinanderfolgenden Aufgaben umgehen kann.
- Überwachtes Feintuning: Zwei Trainingsrunden konzentrierten sich stark auf Daten zur Tool-Nutzung, Websuche und Agenten-Workflows.
- Spezialisierung von Lehrermodellen: Für jeden Bereich, etwa Mathematik, Programmierung und Tool-Nutzung, wurde ein spezialisiertes Lehrermodell trainiert.
- Domänenübergreifende Destillation: Die Fähigkeiten der spezialisierten Modelle wurden in ein einziges Modell übertragen.
- Agentisches Reinforcement Learning: Mehrere Trainingsrunden wurden innerhalb realer Agenten-Frameworks ausgeführt, damit das Modell den Umgang mit verschiedenen Tools, Systemanweisungen und mehrstufigen Aufgabenumgebungen erlernen konnte.
Das agentische Reinforcement-Learning-System trennt die Optimierung des Modells, die Inferenz und die Ausführung der Umgebungen. Das System verwendet die Trainings-Engine zur Verbesserung des Modells und die Rollout-Engine zur Generierung von Aktionen mit der neuesten Policy, während das Reinforcement-Learning-Framework die Trainingsprozesse sowie die Sammlung von Trajektorien und Belohnungen koordiniert. Die Aktionen werden innerhalb eines Sandbox-Dienstes ausgeführt. Dort hostet der Blackbox Harness den Agenten und koordiniert seine Interaktion mit der Aufgabenumgebung, ohne dass die unterstützten Frameworks angepasst werden müssen.
Testergebnisse und Leistung
Liquid AI verglich das Modell mit Modellen, die ungefähr bis zu viermal größer sind, darunter gemma-4-E2B-it, gemma-4-E4B-it, Qwen3.5-4B und Qwen3.5-9B. LFM2.5-2.6B war das kleinste Modell der Gruppe, führte jedoch alle in den Vergleich einbezogenen Tests zur Befolgung von Anweisungen an. Auch bei den Tests zur Tool-Nutzung lag es vorn, mit Ausnahme von BFCLv4, in dem Qwen3.5-9B besser abschnitt.
Das Modell erzielte 80,07 im Multi-IF-Test, 85,49 in IFStruct, 77,83 in ToolSandbox und 62,85 im englischen Claw-Eval-Durchschnitt. Bei Agentenaufgaben übertraf es die beiden Gemma-Modelle und erreichte eine ähnliche Leistung wie die Qwen-Modelle, während die größeren Modelle bei der Programmierung deutlich vorne blieben.
Ausführungsgeschwindigkeit und Verfügbarkeit
Das Modell ist ab dem ersten Tag mit mehreren Inferenztools kompatibel, darunter llama.cpp, MLX, vLLM, SGLang und ONNX. Nach Angaben des Unternehmens erreicht die Generierung auf einer Apple-M5-Max-Einheit 220 Tokens pro Sekunde und auf einem AMD Ryzen AI Max+ 395 113 Tokens pro Sekunde, wobei das Modell mit weniger als 2,5 Gigabyte Speicher ausgeführt wird. Außerdem sei es möglich, leistungsfähige Agenten auf Smartphones mit einer Geschwindigkeit von 30 Tokens pro Sekunde auszuführen.
Auf Grafikprozessoren erreicht das Modell bei hoher Parallelität etwa 15.000 Ausgabetokens pro Sekunde, was ungefähr 1,3 Milliarden Tokens pro Tag auf einer einzigen H100 entspricht. Entwickler können eine WebGPU-Demo im Browser ausprobieren oder das Modell mit lokalen Agenten-Frameworks wie OpenClaw, Hermes Agent und Pi verwenden. Außerdem ist eine Demo eines auf dem Gerät laufenden Rechercheagenten verfügbar.