Ornith-1.5-122B: Qwen Tabanlı Self-Improvement Modeli Yayında
Ornith ekibi, Ornith-1.5-122B modelini duyurdu. Model, Qwen3.5 ve Gemma4 üzerine inşa edilen Ornith-1.0'ın üzerine, görev üretimi, scaffold oluşturma ve çözüm rollout'larını aynı anda optimize eden bir self‑improvement döngüsü ekleyerek temelden iyileştirme yeteneğini genişletiyor.
Özetle
- 1
Ornith-1.5-122B, Qwen3.5 ve Gemma4 temelli Ornith-1.0'ın üzerine self‑improvement döngüsü ekleyerek yeni bir nesil temel model sunuyor.
- 2
Model, sabit insan‑tarafından hazırlanmış görev setlerine bağımlı kalmadan, otomatik görev üretimi, scaffold oluşturma ve çözüm rollout'larını aynı anda optimize ediyor.
- 3
Pekiştirmeli öğrenme (RL) ile politika güncellemeleri yaparak, sürekli kendini geliştiren bir öğrenme süreci sağlıyor.
- 4
Model dosyaları GGUF formatında HuggingFace üzerinden indirilebilir ve NVFP4 gibi GPU'larda çalıştırılabilir.
- 5
Topluluk, Reddit LocalLLaMA üzerinden modelin teknik detayları ve potansiyel uygulamaları üzerine yoğun tartışmalar yürütüyor.
Ornith-1.5-122B, Ornith-1.0'ın devamı niteliğinde geliştirilen ve Qwen3.5 ile Gemma4 modellerinin üzerine ek ön‑eğitim, ara‑eğitim ve son‑eğitim adımlarıyla oluşturulmuş bir temel modeldir. Yeni sürüm, "scaffold" ve "rollout" optimizasyonunu aşarak, görev üretimi, scaffold inşası ve çözüm rollout'larını aynı anda iyileştiren bir self‑improvement döngüsü sunar. Bu sayede model, sabit insan‑tarafından hazırlanmış görev setlerine bağımlı kalmadan, sürekli yeni eğitim görevleri üretir, bu görevleri çözmek için etkili stratejiler keşfeder ve pekiştirmeli öğrenme (RL) yoluyla politikasını günceller.
Ornith-1.5'in en dikkat çeken özelliği, görev ve harness (araç) tasarımını otomatikleştirerek, modelin kendi kendine öğrenme kapasitesini artırmasıdır. Geleneksel büyük dil modelleri, genellikle önceden tanımlanmış veri setleri ve insan müdahalesiyle eğitilirken, Ornith-1.5 bu süreci kapalı bir döngü içinde yürütür; yeni görevler oluşturulur, bu görevler için scaffold'lar hazırlanır ve elde edilen çözümler üzerinden ödül sinyalleriyle modelin politikası pekiştirilir.
Modelin teknik detayları ve ödül tasarımıyla ilgili daha fazla bilgi, Ornith ekibinin blogunda ve HuggingFace üzerindeki ilgili depolarda bulunabilir. Kullanıcılar, GGUF formatındaki model dosyalarına doğrudan erişim sağlayarak, kendi donanımlarında (örneğin NVFP4 gibi GPU'larda) çalıştırabilirler. Modelin açık kaynak doğası, topluluk tarafından test edilmesini ve daha da geliştirilmesini teşvik ediyor.
Ornith-1.5-122B, topluluk içinde büyük bir merak uyandırdı ve özellikle kendi kendine görev üretme ve RL tabanlı iyileştirme konularında yeni bir referans noktası olarak görülüyor. Reddit'teki LocalLLaMA topluluğu, modelin performansını ve potansiyel uygulama alanlarını tartışmak için aktif bir platform sağladı.
Yöney yorumu
Ornith-1.5-122B, model eğitiminin otomatikleştirilmesi ve sürekli iyileştirilmesi yönündeki trendi hızlandırarak, geliştiricilere daha az manuel veri hazırlama ihtiyacı bırakıyor. Kullanıcılar ise daha dinamik ve görev odaklı bir yapay zeka deneyimi elde edecek.
Bu haber Reddit LocalLLaMA kaynağından derlenip Türkçeye aktarıldı. Ayrıntılar ve orijinal metin için oka tıklayın.
