Qwen 3.8 Flash Next Q3 S Modeli Üzerinde Benchmark Sonuçları
Reddit kullanıcısı migsperez, AMD R9700 GPU ve 64 GB RAM ile Qwen3.8‑Flash‑Next IQ3_S modelini Opencode platformunda test etti ve modelin 90 tokens/s decode hızıyla 27 B modelin üç katı performans gösterdiğini duyurdu.
Öne Çıkan Başlıklar
- Qwen3.8‑Flash‑Next IQ3_S, 90 tokens/s decode hızıyla 27 B modelin üç katı performans gösterdi.
- Test, AMD Radeon RX 9700 32 GB GPU ve 64 GB RAM üzerinde Strata aracılığıyla gerçekleştirildi.
- Prompt varyasyonları, özellikle "low poly" stilinde çokgenli bir plan talebiyle çıktıyı iyileştirdi.
Reddit'in LocalLLaMA topluluğunda paylaşılan bir gönderide, kullanıcı Exo modelinin Opencode üzerindeki başarısından sonra diğer modelleri denemeye karar verdi. Çeşitli orta ölçekli modellerin beklentilerin çok altında performans sergilemesi üzerine, özellikle Qwen 3.8 Flash Next IQ3_S modeline odaklandı. Model, Niko1221'in GitHub üzerindeki Strata projesi aracılığıyla kuruldu ve AMD Radeon RX 9700 32 GB GPU ile 64 GB sistem belleği kullanılarak çalıştırıldı.
Test ortamı, Opencode'in metin üretim benchmark'ı olarak bilinen standart prompt setiyle gerçekleştirildi. İlk denemelerde çıktının kalitesi tatmin edici olmasa da, kullanıcı farklı prompt kombinasyonlarıyla deneme yaparak sonuçları iyileştirmeye çalıştı. Özellikle bir plan talep edip, ardından bu planı "low poly" ama çok çokgenli bir stilde inşa etmesini istediğinde, modelin çıktısı belirgin bir artış gösterdi.
En dikkat çekici ölçüm, modelin 90 tokens/s (tk/s) decode hızıydı; bu değer, aynı test ortamında 27 B parametreli bir modelin yaklaşık 27 tk/s hızının üç katıydı. Kullanıcı, bu performansın Qwen 3.8 Flash Next IQ3_S'nin küçük bir Q3 serisi olmasına rağmen beklenmedik bir verimlilik sunduğunu vurguladı. Sonuçların görselleri ve karşılaştırmalı çıktılar, esuyo.com üzerindeki iki ayrı linkte (horse‑strata‑qwen‑3.8‑q3‑s‑1 ve horse‑qwen‑3.8‑max) paylaşıldı.
Bu bulgular, düşük parametreli ama iyi optimize edilmiş modellerin, özellikle modern AMD GPU'larıyla birleştiğinde yüksek throughput sağlayabileceğini gösteriyor. Geliştiriciler, benzer yapılandırmalarda daha hafif modelleri tercih ederek maliyet ve enerji verimliliğini artırabilirken, kullanıcılar da daha hızlı yanıt sürelerinden faydalanabilecek.
Benchmark Sonuçları
| Model | Benchmark | Skor | Ayar |
|---|---|---|---|
| Qwen3.8-Flash-Next IQ3_S | decode speed on Opencode | 90 tokens/s | - |
YZ Yorumu
Bu sonuç, hafif modellerin doğru donanım ve prompt stratejileriyle büyük modellerle rekabet edebileceğini gösteriyor; geliştiriciler daha düşük kaynak tüketimiyle yüksek yanıt hızı elde edebilir.
Yapay zekâ tarafından üretilmiştir.