Hızlı ve Gizli Ajanlar İçin LFM2.5-24B-A2B Modeli Cihaz Üzerinde Çalışıyor

Liquid AI, LFM2.5-24B-A2B modelini 40 katman, 64 uzmanlı MoE blokları ve top‑4 yönlendirme mekanizmasıyla inşa etti. Modelin bağlam penceresi 32 K'dan 131 K tokena çıkarıldı ve kelime dağarcığı 65 K'dan 128 K tokena genişletildi; bu sayede Latin dışı dillerde de daha iyi performans sağlanıyor. Ön‑eğitim aşaması 17 trilyon token'dan 33 trilyon token'a ölçeklendirilirken, orta‑eğitimde 2 trilyon token 32 K bağlamda ve 300 milyar token 131 K bağlamda, özellikle akıl yürütme, matematik, kod ve çok‑dilli metinlere odaklanıldı.

Model, beş aşamalı bir post‑eğitim sürecinden geçti: süpervizörlü ince ayar (SFT), öğretmen uzmanlaşması, çok‑alanlı politika içi distilasyon (MOPD) – önce ajan‑olmayan, ardından ajan‑odaklı görevler için – ve son olarak ajanik pekiştirmeli öğrenme (Agentic RL). Bu aşamalar, OpenClaw, Hermes Agent, Pi ve OpenCode gibi popüler ajan çerçevelerinde doğrudan çalışabilen bir ajan temeli oluşturdu.

Benchmark testlerinde LFM2.5-24B-A2B, 16 farklı ölçekte Qwen3.6-35B-A3B, Gemma‑4‑26B‑A4B‑it ve Nemotron‑3.5‑Lightning (30B‑A3B) modelleriyle karşılaştırıldı. Model, AutomationBench, BFCLv4, ToolSandbox, LiveClaw ve τ³‑Bench Banking gibi araç‑kullanımı ve ajan‑odaklı testlerde liderlik etti; özellikle AutomationBench'te rakip modelin üç katı puan elde etti. Bilgi‑ağırlıklı benchmarklarda (GPQA Diamond, HLE, AA‑Omniscience) ve kodlama testlerinde (SWE‑Bench Verified, SciCode) daha büyük modellerin gerisinde kalsa da, retrieval ya da web‑arama entegrasyonlarıyla bu eksikliği kapatmak mümkün.

Cihaz‑üzerinde çalıştırma hızı da dikkat çekiyor: Apple M5 Max CPU’da 184 token/s, Ryzen AI Max+ 395’da 114 token/s hızlarıyla aynı sınıftaki diğer MoE modellerinden %1.7 daha hızlı ve daha az bellek tüketiyor. NVIDIA B300 GPU’da ise 21 000+ çıkış token/s hızına ulaşarak yüksek eşzamanlılıkta bile performansını koruyor. Model, llama.cpp, MLX, vLLM, SGLang ve ONNX gibi ekosistemlerde güncel transformer sürümü (≥5.0.0) ile doğrudan kullanılabilir.