LFM3 ile Özelleştirilebilir Çok Modlu Modeller

LiquidAI, LFM3 ailesiyle çok modlu yapay zekâ uygulamalarının geliştirilmesini kökten değiştirmeyi hedefliyor. LFM3‑1.7B‑Base modeli, 24 katman ve üç farklı katman tipini (kısa konvolüsyon, kayar‑pencere dikkat ve global dikkat) birleştiren tri‑hibrit katman karışımına sahip. Gated attention ve kısmi RoPE gibi yenilikler, kuantizasyon sırasında aktivasyon uç değerlerini azaltarak 4‑bit hassasiyette 1 GB'lık bir bellek ayak iziyle kenar cihazlarda çalışabilmesini sağlıyor.

Yeni mimari, 14 farklı cihaz ve arka uç kombinasyonunda (akıllı telefonlar, Raspberry Pi 5, dizüstü bilgisayarlar, bulut CPU/GPU ve Qualcomm Hexagon NPU) yapılan donanım‑döngüsü mimari aramalarıyla optimize edildi. Sonuç olarak, LFM3‑1.7B‑Base 22 trilyon token üzerinden eğitildi ve son 3,5 trilyon token, ajan‑odaklı izler ve araç çağrılarıyla zenginleştirilmiş bir orta‑eğitim aşamasını içeriyor; bu da bağlam penceresini 256 K tokena çıkarıyor.

LFM3 serisi, tek bir omurgadan türeyen altı ayrı model sunuyor: metin (LFM3‑1.7B), görsel‑metin‑video (LFM3‑VL‑2B), ses (LFM3‑Audio‑2B), omni (LFM3‑Omni‑2B) ve karar modelleri (d1‑2B, d1‑omni‑2B). Vision ve audio kodlayıcıları, önceki nesillere göre %2,2‑3,5 daha az FLOP harcarken aynı doğruluk seviyesini koruyor. LiquidCodec adlı ses tokenleştiricisi, tek CPU çekirdeğinde gerçek zamanın %87 katı hızında ses üretimi sağlıyor.

Bu modeller, Hugging Face Transformers kütüphanesi üzerinden tek satır kodla kullanılabiliyor ve tek GPU’da ince ayar yapılabiliyor. LFM3‑1.7B, WebArena‑Verified testinde 38,42 puan alarak önceki LFM2‑1.2B modelini geride bırakıyor; LFM3‑VL‑2B ise 62 görsel benchmarkta ortalama skoru 71,4'e yükselterek 3,1 B parametreli rakiplerine eşdeğer performans sergiliyor. d1‑2B modeli ise ImajevBench'te 75,5 puanla önceki d1‑3B modelinin 64,0 puanını geçiyor.