Unsloth, DeepSeek-V4.1-Flash-1017 Dynamic V3.1 GGUF'larıyla 7 Benchmark'te Rekor Performans Gösterdi

Unsloth, DeepSeek‑V4.1‑Flash‑1017 Dynamic V3.1 (preview) adlı yeni GGUF kuantizasyon setini yayınlayarak, aynı modelin farklı bit derinliklerinde (Q8_K_XL, Q2_K_XL, IQ2_XXS, IQ1_M, IQ1_S) 7 ayrı benchmark'ta ölçülen doğruluk oranlarını paylaştı. Özellikle AIME25 testinde UD‑Q8_K_XL %97.08, UD‑Q2_K_XL %97.50 gibi puanlar elde ederken, rakip GSQ‑RCO IQ1_M sadece %91.88 elde etti. GPQA‑Diamond, MMLU‑Pro ve LCB v6 (32K) gibi diğer ölçütlerde de benzer bir üstünlük gözlemlendi.

Benchmark çalışmaları, her bir testin en az üç kez (AIME25 için 16 kez) tekrarlanıp ortalaması alınarak gerçekleştirildi; bu sayede sonuçların güvenilirliği artırıldı. Unsloth ayrıca Kullandıkları Kullback‑Leibler Divergence (KLD) ölçümünün, kuantize edilmiş modelin 16‑bit referans modele ne kadar yakın olduğunu gösterdiğini belirtti; düşük KLD değerlerinin hem disk alanı tasarrufu hem de doğruluk kaybının minimal olduğunu işaret etti.

Modelin donanım gereksinimleri de duyuruldu: 128 GB RAM ya da birleşik bellekli cihazlarda sorunsuz çalışabileceği, 64 GB RAM üzerinde ise engram offloading ile kullanılabileceği belirtildi. Bunun yanı sıra Unsloth Desktop'ta tarayıcı entegrasyonu, otomatik sıkıştırma, yeni bir TTS boru hattı (ses klonlama ve ayrıştırma dahil) ve sandbox gibi yeni özellikler tanıtıldı.

Tüm benchmark verileri, metodolojileri ve ek görseller Unsloth blogunda yayımlandı; ilgili blog ve Hugging Face depolarına yönlendiren linkler paylaşıldı. Geliştiriciler ve araştırmacılar, bu yeni GGUF'ları inceleyerek düşük bit kuantizasyonların yüksek doğrulukla nasıl birleştirilebileceği konusunda yeni bir referans noktası elde edecekler.