Mistral Large 4: 1 Trilyon Parametreli Açık Ağırlıklı Çok Modelli Model Açıklandı

Mistral Large 4, şirketin şu ana kadar geliştirdiği en büyük ve en yetkin model olarak tanıtıldı. Model, 1 trilyon toplam parametreye sahip bir Mixture-of-Experts (MoE) mimarisi kullanıyor; her token için 4 aktif uzman ve 1 ortak uzman olmak üzere 128 yönlendirilmiş uzmana sahip ve bu sayede 52 milyar aktif parametre (49 milyar token başına, gömülü ve çıktı katmanları dahil 52 milyar) işliyor. Eğitim süreci, Avrupa'daki Mistral veri merkezlerinde 3.800 NVIDIA Grace Blackwell GPU'su üzerinde sıfırdan gerçekleştirildi.

Mistral Large 4, 1 milyon token uzunluğunda bağlam penceresi sayesinde uzun metin işleme ve belge analizi gibi görevlerde üstün performans sunuyor. Model, metin ve görüntü girdilerini aynı anda işleyebilen bir Pixtral tarzı görsel kodlayıcıya sahip; bu sayede değişken boyutlu ve oranlı görselleri analiz edebiliyor. Görsel yerleştirme (visual grounding) konusunda açık ağırlıklı modeller arasında lider konumda olduğu belirtiliyor.

Model, 160'tan fazla dili, özellikle Avrupa Birliği'nin tüm resmi dillerini doğal bir şekilde destekliyor. Ayrıca siber güvenlik, finans ve hukuk gibi uzmanlık alanlarında yüksek performans sergiliyor ve kötü niyetli istekleri reddetme yeteneğiyle güvenlik odaklı bir yaklaşım sunuyor. Kullanıcılar, düşük, orta ve yüksek olmak üzere üç farklı akıl yürütme çabası seçeneğiyle aynı modeli hızlı sohbetten karmaşık ajan tabanlı çalışmalara kadar esnek bir şekilde kullanabiliyor.

Mistral Large 4, açık ağırlıklı bir lisans (Mistral Ecosystem Open-Weight License) altında dağıtılıyor; bu lisans MIT temelli olup ticari ve ticari olmayan kullanım için uygundur. Ancak Model-as-a-Service (MaaS) hizmeti sunmak isteyenler için ayrı bir ticari lisans gerekliliği bulunuyor. Model, Hugging Face üzerinden GGUF formatında ve llama.cpp entegrasyonu ile sunulmuş; geliştiriciler için API üzerinden "mistral-large-4" adıyla erişim sağlanabiliyor.