Liquid AI, LFM2.5-2.6B ve LFM2.5-2.6B-Base modellerini Hugging Face'te kullanıma sunduğunu açıkladı. Bu modeller, bulut çıkarımına tamamen bağlı kalmak yerine yapay zekâ ajanlarını cihazlarda yerel olarak çalıştırmayı sağlıyor. Şirkete göre model, araç çağırma ve çok adımlı iş akışları desteği sunuyor ve dizüstü bilgisayarlarda ve telefonlarda kullanıma uygun boyut ve hıza sahip.
Sürüm, verileri cihazda tutarken ve bulut çıkarım faturasına bağımlılığı azaltırken ajanları geniş ölçekte dağıtması gereken geliştiricileri hedefliyor. Liquid AI, modelin araç kullanımı, talimatları izleme ve çok adımlı ajan görevlerinde kendisinden yaklaşık dört kat daha büyük modellerle rekabet ettiğini söylüyor.
Ajan görevleri için özel eğitim
LFM2.5-2.6B, yaklaşık 34 trilyon token üzerinde önceden eğitildi. Orta eğitim aşamasında bağlam penceresi 128 bin tokene genişletildi. Ardından model, temel bir modelden araçlarla ve ardışık görevlerle çalışabilen bir ajana dönüştürülmesi için dört aşamadan geçti.
- Denetimli ince ayar: İki eğitim turunda araç kullanımı verileri, web araması ve ajan iş akışlarına büyük ölçüde odaklanıldı.
- Öğretmen uzmanlaşması: Matematik, programlama ve araç kullanımı gibi her alan için uzmanlaşmış bir öğretmen model eğitildi.
- Çok alanlı damıtma: Uzmanlaşmış modellerin yetenekleri tek bir modele aktarıldı.
- Ajan pekiştirmesi: Modelin farklı araçlarla, sistem talimatlarıyla ve çok adımlı görev ortamlarıyla çalışmayı öğrenmesi için gerçek ajan çerçeveleri içinde çok turlu eğitim yürütüldü.
Ajan pekiştirme sistemi, modelin iyileştirilmesi, çıkarım ve ortamların yürütülmesi süreçlerini birbirinden ayırıyor. Sistem, modeli iyileştirmek için eğitim motorunu, en güncel politikayla eylemler üretmek içinse dağıtım motorunu kullanıyor. Pekiştirme çerçevesi de eğitim, izlerin toplanması ve ödüllerin elde edilmesi süreçlerini koordine ediyor. Eylemler, Blackbox Harness'in ajanı barındırdığı ve görev ortamıyla etkileşimini koordine ettiği Sandbox hizmetinde yürütülüyor; desteklenen çerçevelerde değişiklik yapılması gerekmiyor.
Test sonuçları ve performans
Liquid AI, modeli yaklaşık dört katına kadar büyüklüğe sahip gemma-4-E2B-it, gemma-4-E4B-it, Qwen3.5-4B ve Qwen3.5-9B gibi modellerle karşılaştırdı. LFM2.5-2.6B gruptaki en küçük modeldi; ancak karşılaştırmada yer alan tüm talimat izleme testlerinde birinci oldu. Ayrıca Qwen3.5-9B'nin kendisini geçtiği BFCLv4 dışındaki araç kullanımı testlerinde de liderliği elde etti.
Model, Multi-IF testinde 80.07, IFStruct'ta 85.49, ToolSandbox'ta 77.83 ve İngilizce Claw-Eval ortalamasında 62.85 puan aldı. Ajan görevlerinde her iki Gemma modelini geride bıraktı ve Qwen modellerine benzer performans gösterdi. Bununla birlikte, daha büyük modeller programlama alanında belirgin biçimde önde kalmayı sürdürdü.
Çalışma hızı ve kullanılabilirlik
Model, ilk günden itibaren llama.cpp, MLX, vLLM, SGLang ve ONNX dahil olmak üzere çeşitli çıkarım araçlarıyla uyumlu. Şirket, Apple M5 Max üzerinde üretim hızının saniyede 220 tokene, AMD Ryzen AI Max+ 395 işlemcisinde ise saniyede 113 tokene ulaştığını ve modelin 2,5 gigabayttan az bellekle çalıştığını söylüyor. Ayrıca telefonda saniyede 30 token hızında yetenekli ajanlar çalıştırmanın mümkün olduğunu belirtiyor.
Grafik işlem birimlerinde model, yüksek eşzamanlılıkta saniyede yaklaşık 15 bin çıktı tokenine ulaşıyor. Bu, tek bir H100 üzerinde günde yaklaşık 1,3 milyar tokene karşılık geliyor. Geliştiriciler tarayıcıda WebGPU demosunu deneyebilir veya modeli OpenClaw, Hermes Agent ve Pi gibi yerel ajan çerçeveleriyle kullanabilir. Cihazda çalışan bir araştırma ajanı için de demo sunuluyor.