25 Ekim 2026 PazarSayı № 298
III BenchmarkTopluluk

Kimi K3.1 Pro, DeepSeek 4.1 Flash kadar iyi mi?

Kimi K3.1 Pro modelinin performansı, DeepSeek 4.1 Flash (1017) ile karşılaştırıldığında beklenen farkı göstermiyor. Kullanıcılar, Kimi K3.1 Pro'nun yüksek katman sayısı ve yavaş çalışma süresi nedeniyle yerel ortamda zorlayıcı olduğunu belirtiyor.

Reddit LocalLLaMA kaynağından derlendi · · 1 dk okuma

Orijinal haber ↗
Görsel: Reddit LocalLLaMA

Özetle

  1. 1

    Kimi K3.1 Pro, 104 aktif katman nedeniyle yerel çalıştırmada yavaş ve zorlayıcı.

  2. 2

    DeepSeek 4.1 Flash (1017), daha düşük ayak iziyle benzer ya da daha iyi performans sağlıyor.

  3. 3

    Kimi K3.1 Pro'nun kuantizasyonu çıktı kalitesini düşürürken, DeepSeek yüksek kuantizasyonda daha stabil kalıyor.

Reddit topluluğu LocalLLaMA'da paylaşılan bir yorumda, Kimi serisinin 2.8 milyar parametreli modellerine duyulan ilgi vurgulanıyor. Ancak yazar, yeni çıkan DeepSeek 1017 modelinin aynı boyutta daha iyi sonuçlar sunduğunu ve Kimi K3.1 Pro'nun bu performansı yakalamadığını ifade ediyor.

Kimi K3.1 Pro'nun 104 aktif katmana sahip olması, tek bir token üretmek için gereken işlem süresini uzatıyor. Bu durum, modelin yerel cihazlarda, özellikle düşük bellekli sistemlerde çalıştırılmasını zorlaştırıyor. Kuantizasyon uygulandığında ise çıktı kalitesinde belirgin bir düşüş yaşanıyor.

DeepSeek 4.1 Flash (1017) ise daha küçük bir ayak izine sahip olmasına rağmen benzer ya da daha yüksek doğruluk sonuçları veriyor. Ayrıca model, daha hızlı yanıt süreleri sunarak yerel kullanım senaryoları için daha pratik bir seçenek olarak öne çıkıyor.

Yazar, Kimi K3.1 Pro'nun açık ağırlıklarının Kasım 4'te yayınlanacağını belirterek, bu sürümün de yüksek kuantizasyonla çalıştırıldığında DeepSeek'in yüksek kuantizasyonlu versiyonuna kıyasla geride kalacağını öngörüyor. Sonuç olarak, topluluk üyeleri DeepSeek 4.1 Flash'i tercih etmeyi ve Kimi K3.1 Pro'yu göz ardı etmeyi öneriyor.

Yöney yorumu

Bu karşılaştırma, yerel ortamda düşük kaynak tüketimi ve yüksek hız isteyen geliştiriciler için DeepSeek 4.1 Flash'in daha uygun bir seçenek olduğunu gösteriyor. Kimi K3.1 Pro'nun potansiyeli olsa da, mevcut performans farkları nedeniyle geniş çaplı benimsenmesi zor görünüyor.

Yapay zekâ tarafından üretilmiştir.
Devamı kaynakta

Bu haber Reddit LocalLLaMA kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.

III

Aynı bölümden

Tümü →
III Benchmark

8 GB GPU’da 262K bağlam, 3.5 BPW Qwen-Flash-Next Coder 70 T/s performansı

LocalLLaMA topluluğu, Qwen-Flash-Next Coder modelinin 8 GB VRAM ve 24 GB RAM ile 262 k bağlam uzunluğunda çalıştırılabildiğini ve seçici MOE offloading sayesinde 70 T/s (token/saniye) üretim hızı yakaladığını duyurdu. Model, 3.5 bit per weight (BPW) GSQ RCO kuantizasyonu ve yarı yarıya azaltılmış uzman katmanlarıyla etkili bir 1.89 bit/parametre oranına ulaşıyor.

Özetle 3 madde
  1. Model, 8 GB VRAM ve 24 GB RAM ile 262 k bağlam uzunluğunda çalıştırılabiliyor.
  2. Seçici MOE offloading sayesinde 70 T/s prompt processing ve 8 T/s token generation hızı elde edildi.
  3. 3.5 BPW GSQ RCO kuantizasyonu, etkili olarak 1.89 bit/parametre oranı sağlıyor.

Reddit LocalLLaMA2 skor

III Benchmark

mini-AGI modeli 8 GB VRAM GPU’da bir ay süren sıfırdan eğitiminin benchmark sonuçları

Reddit topluluğu LocalLLaMA, dinamik sürekli öğrenme yeteneğine sahip mini-AGI modelini 8 GB VRAM'lı bir GPU’da bir ay boyunca sıfırdan eğiterek elde ettiği benchmark sonuçlarını paylaştı. Sınırlı donanımda uzun vadeli eğitim ve adaptasyon yeteneklerini test eden bu deney, düşük maliyetli AGI araştırmalarına ışık tutuyor.

Özetle 3 madde
  1. mini-AGI, tek bir 8 GB VRAM GPU’da bir ay süren sıfırdan eğitimle çalıştırıldı.
  2. Dinamik sürekli öğrenme mimarisi, yeni veri eklemelerinde performans kaybı yaşatmadı.
  3. MMLU testinde %42 doğruluk elde edilerek düşük bellekli ortamlarda makul bir performans gösterildi.

Reddit LocalLLaMA

III Benchmark

PCIe x1 sınırlarını zorlayan lvgale, 27B, 9B ve 2B LLM'leri aynı anda çalıştırıyor

Karmaşık bir donanım topluluğu olan lvgale, farklı GPU üreticileri ve düşük bant genişliğine sahip PCIe x1/x2 hatları üzerinden aynı anda üç farklı büyüklükte LLM'yi çalıştırarak dikkat çekici bir performans elde etti. Slipstream adlı özel orkestrasyon motoru ve Vulkan tabanlı Flash Attention sayesinde 27B model 3.82 t/s, 9B model 4.75 t/s ve 2B model 12.47 t/s hızları yakalandı.

Özetle 3 madde
  1. lvgale, farklı üreticilerin GPU'larını PCIe x1/x2 hatları üzerinden birleştirerek 27B, 9B ve 2B LLM'leri aynı anda çalıştırıyor.
  2. Slipstream adlı özel Python orkestrasyon motoru, Vulkan ve Flash Attention entegrasyonu sayesinde düşük bant genişliğinde kararlılığı sağlıyor.
  3. Elde edilen token/s değerleri: 27B model 3.82 t/s, 9B model 4.75 t/s, 2B model 12.47 t/s.

Reddit LocalLLaMA3 skor