Beam: 501B açık MoE modeli, sahip olun, özelleştirin ve ölçeklendirin
Reflection laboratuvarının yeni Beam modeli, 501 milyar parametreli bir MoE mimarisiyle 1M token uzunluğunda bağlamı destekliyor ve sadece 23B aktif parametreyle çalışıyor. Apache 2.0 lisansı altında sunulan model, Rust tabanlı bir harness ve vLLM, SGLang gibi popüler kütüphanelerle entegrasyon sağlıyor.
Özetle
- 1
501 B parametreli, 23 B aktif parametreyle çalışan MoE LLM
- 2
1 M token uzunluğunda bağlam penceresi ve kaydırmalı‑global dikkat mimarisi
- 3
Rust tabanlı özel harness ve day‑0 destekli Transformers, vLLM, SGLang entegrasyonu
- 4
NVFP4 (4‑bit) checkpoint ile 1 TB yerine ~280 GB depolama, Blackwell GPU'larda yerel çalışma
- 5
GPQA Diamond %90.6, AIME 2026 %97.7 gibi yüksek benchmark skorları
Beam, Reflection adlı ABD merkezli bir laboratuvar tarafından Hugging Face üzerinden açık kaynak olarak yayınlandı. Model, 52 katmanlı bir dekoder ve her MoE katmanında 256 uzmana sahip; bir token için yalnızca 8 uzman aktif hâle geliyor, bu da 23 B aktif parametreyle büyük bir modelin kapasitesini sunarken daha küçük bir modelin hızını koruyor. Bağlam penceresi 1 M token olarak belirlenmiş ve kaydırmalı‑pencere (sliding‑window) dikkat mekanizmasıyla birlikte dokuz global katman tam bağlamı işliyor.
Modelin dikkat blokları, 48 sorgu başlığı ve 8 anahtar‑değer başlığıyla grup‑sorgu dikkat (grouped‑query attention) kullanıyor; RMSNorm ve öğrenilmiş sigmoid kapı ile her kanal ölçekleniyor. Uzman yönlendiricisi DeepSeek‑V3'ün grup‑sınırlı şemasını izliyor ve 256 uzmandan sadece 8'ini seçerek token başına yaklaşık 23 B parametre işliyor. BF16 checkpoint'i yaklaşık 1 TB, NVFP4 (4‑bit) checkpoint'i ise ~280 GB boyutunda.
Beam, kodlama ve ajan tabanlı (agentic) senaryolar için tasarlandı; metin giriş‑çıkış formatı, beş farklı akıl yürütme seviyesi ve araç çağrısı için özel bir dilbilgisi sunuyor. Model, Rust tabanlı özel bir harness, Transformers, vLLM ve SGLang gibi kütüphanelerde gün‑başı (day‑0) desteği ve DFlash2 spekülatif dekoding ile yüksek verimlilik sağlıyor. Dağıtık ortamda uzman paralelliği sayesinde 256 uzman 8 cihaz arasında bölünebiliyor; örneğin 16 H200 GPU ile tam BF16 checkpoint'i çalıştırmak mümkün.
Beam'in performansı, çeşitli benchmarklarda %90'ın üzerindeki skorlar elde ederek dikkat çekiyor. GPQA Diamond testinde %90.6, AIME 2026 akıl yürütme testinde %97.7 ve LiveCodeBench'te %88.3 gibi sonuçlar gösteriyor. Hugging Face, Beam'i kullanan en iyi projelere 10.000 $ Hub kredisi vererek topluluk katkısını teşvik ediyor.
Yöney yorumu
Beam, büyük ölçekli modelleri kendi donanımlarında çalıştırmak isteyen ekipler için maliyet ve erişim engellerini azaltıyor; aynı zamanda açık lisans ve topluluk odaklı ödül programı, inovasyonu hızlandıracak bir ekosistem oluşturuyor.
Haberdeki skorlar
Bu skorların kaynak metinde birebir geçtiği doğrulandı. Bilinen testlerin sonuçları Benchmark sıralamalarına da eklenir.
- BeamGPQA Diamond%90.6
- BeamReasoning AIME 2026%97.7
- BeamLiveCodeBench%88.3
- BeamSWE Bench Pro v2-Hard%76.5
- BeamLongBench v2%67.5
Bu haber Hugging Face kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.
