ORL ile Diffusion LLM'lerde 2,788 token/s RTX 5090 Performansı ve Açık Kaynak Model Çıktıları
Araştırmacılar, diffusion tabanlı dil modellerini (dLLM) daha hızlı hâle getiren ORL (On-Policy Residual Learning) yöntemini tanıttı. ORL ve özel dlmrt inference motoru sayesinde LLaDA-2.1-mini modeli tek RTX 5090 üzerinde 2,788 token/s hızına ulaştı ve diğer büyük modellerde de %170‑%690 arasında hız artışı sağlandı. Tüm kod, model checkpoint'leri ve değerlendirme pipeline'ı açık kaynak olarak yayınlandı.
Özetle
- 1
ORL, diffusion LLM'lerde token başına ileri geçiş sayısını %6‑%7 oranında azaltarak tek GPU'da 2,788‑7,708 token/s hızları elde etti.
- 2
HumanEval testinde QwenDLM-4B + ORL %89.6 pass@1 skoru yakalayarak %6.7'lik bir kalite artışı sağladı.
- 3
dlmrt inference motoru, CUDA graph kullanımıyla spekülatif dekodlamalardan %120‑%160 daha hızlı çalışıyor.
Yerel LLM topluluğu r/LocalLLaMA'ya yapılan bir duyuruda, diffusion language model (dLLM) mimarisine yeni bir eğitim ve çıkarım yaklaşımı olan ORL (On-Policy Residual Learning) tanıtıldı. ORL, her denoising adımında modelin önceki tahminlerini residual (kalan) bağlamı olarak taşıyarak ve bu residual'ları gerçek zamanlı olarak güncelleyerek, modelin daha az ileri geçişte (forward pass) daha fazla token'i kesinleştirmesini sağlıyor. Ayrıca Adjacent Entropy Contraction adlı bir kayıp fonksiyonu eklenerek belirsizlik daha hızlı azalıyor ve aşırı güvenli tahminler cezalandırılmıyor.
Bu yöntem, özel olarak geliştirilen dlmrt adlı CUDA‑graph tabanlı inference motoru ile birleştirildi. dlmrt, tüm denoising döngüsünü tek bir grafik içinde yakalayarak CPU‑GPU senkronizasyon maliyetlerini ortadan kaldırıyor ve NVFP4 desteği sayesinde tüketici sınıfı RTX 5090 gibi kartlarda da yüksek performans sunuyor. Tek bir istek (batch size 1) için yapılan ölçümlerde, LLaDA-2.1-mini + ORL kombinasyonu RTX 5090 üzerinde 2,788 token/s, 8× B200 üzerinde DiffusionGemma 26B MoE + ORL ise 7,708 token/s hızına ulaştı.
QwenDLM-4B modeline uygulanan ORL, aynı donanımda (H100) token/s hızını 746'dan 1,298'e çıkararak DFlash spekülatif dekodlamadan %174 daha hızlı çalıştı ve aynı zamanda HumanEval pass@1 skorunu %82.9'dan %89.6'ya yükseltti. End‑to‑end sistem karşılaştırmalarında ORL, dlmrt ile SGLang/vLLM'den %120‑%160 daha hızlı sonuç verdi. Eğitim aşamasında da residual‑state yakalama ve özel attention kernel'ları sayesinde adım süresi %5.2'ye kadar iyileştirildi.
Tüm araştırma makalesi, model checkpoint'leri, eğitim kodları ve dlmrt inference motoru GitHub ve HuggingFace üzerinden açık kaynak olarak paylaşıldı. Geliştiriciler ve yerel LLM meraklıları, RTX 5090 gibi tüketici GPU'larıyla bu modelleri test edebilir, sonuçları yeniden üretip katkıda bulunabilirler. ORL'un diffusion LLM'lerdeki potansiyeli, düşük gecikmeli tek‑istek senaryoları için yeni bir yol haritası sunuyor.
Yöney yorumu
ORL'un getirdiği hız artışı, yerel inference senaryolarında diffusion LLM'lerin kullanılabilirliğini önemli ölçüde yükseltecek; geliştiriciler daha düşük gecikme ile yüksek kaliteli çıktılar alabilecek.
Haberdeki skorlar
Bu skorların kaynak metinde birebir geçtiği doğrulandı. Bilinen testlerin sonuçları Benchmark sıralamalarına da eklenir.
- QwenDLM-4B + ORLend-to-end throughput increase · relative to baseline diffusion decoding6.9 x
- QwenDLM-4B + ORL vs DFlashspeedup factor on H100 · single-request H100 comparison1.74 x
- QwenDLM-4B + ORLHumanEval pass@1%89.6
Bu haber Reddit LocalLLaMA kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.
