NVIDIA Nemotron Bolt 3.5 74B A9B Modeli 15 Ekim’de Kullanıma Açıldı
NVIDIA, 74 milyar parametreli ve 9 milyar aktif parametreli bir MoE (Mixture‑of‑Experts) mimarisi kullanan Nemotron Bolt 3.5 A9B modelini 15 Ekim’de duyurdu. Model, 2‑bit kuantizasyon sayesinde 24 GB bellek içinde çalışıyor ve hem hız hem de zekâ açısından popüler yoğun (dense) ve MoE modellerinin ötesine geçmeyi hedefliyor.
Özetle
- 1
74 B toplam parametre, 9 B aktif parametreli MoE mimarisi
- 2
2‑bit kuantizasyonla 24 GB VRAM içinde çalıştırılabiliyor
- 3
15 Ekim 2026’da resmi olarak yayınlandı
- 4
Hız‑zeka dengesi: yoğun modellere göre daha hızlı, benzer MoE'lere göre daha akıllı
- 5
23 Ekim’de 4 GB bellek gerektiren E4B versiyonu geliyor
Reddit'in LocalLLaMA topluluğu tarafından paylaşılan bilgilere göre, NVIDIA'nın yeni Nemotron Bolt 3.5 A9B modeli 74 milyar toplam parametreye sahip bir MoE yapısı sunuyor. Bu mimaride aynı anda yalnızca 9 milyar parametre aktif hâle geliyor, böylece hesaplama maliyeti düşürülürken uzman ağların avantajları korunuyor.
Model, 2‑bit kuantizasyon ve kuantizasyon‑bilinçli eğitim (quantization‑aware training) teknikleriyle 24 GB VRAM içinde paketlenmiş. Bu sayede, geleneksel yoğun modellerin hafıza gereksinimlerine kıyasla çok daha düşük bir bellek ayak izi sağlanıyor, ancak kalite kaybı minimum seviyeye indirgeniyor.
NVIDIA, Nemotron Bolt 3.5 A9B'nin performansını "hız açısından çoğu popüler yoğun modele, zekâ açısından ise benzer bellek ayak izine sahip popüler MoE modellerine göre daha üstün" olarak tanımlıyor. Bu iddia, özellikle gerçek‑zaman uygulamaları ve sınırlı donanım kaynaklarıyla çalışan geliştiriciler için önemli bir rekabet avantajı sunuyor.
Ayrıca, topluluk 23 Ekim’de 4 GB bellek gerektiren Nemotron 3.5 Bolt E4B versiyonunun da çıkacağını duyurdu. Bu daha hafif sürüm, düşük‑bütçeli cihazlarda ve kenar (edge) senaryolarında kullanılmak üzere tasarlanmış gibi görünüyor. Reddit'teki tartışmalar, modelin açık kaynak topluluğu içinde geniş bir ilgi gördüğünü ve testlerin yakında paylaşılacağını gösteriyor.
Yöney yorumu
Nemotron Bolt 3.5 A9B, yüksek parametre sayısını düşük bellek tüketimiyle birleştirerek geliştiricilere daha erişilebilir güçlü bir seçenek sunuyor; bu da özellikle sınırlı donanım ortamlarında büyük dil modellerinin yaygınlaşmasını hızlandırabilir.
Bu haber Reddit LocalLLaMA kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.
