Stanford, Together AI, UIUC ve Meta'dan Hibrit Akıl Yürütme Ajanları Araştırması

Araştırmacılar, geleneksel büyük dil modellerinin (LLM) tüm süreçte metin üretmesi yerine, düşünme aşamasını gizli bir temsile dönüştüren bir çerçeve geliştirdiler. Bu çerçeve, modelin içsel bir “düşünce” durumunda çalışmasını sağlayarak, yalnızca dışa vurum gerektiğinde (örneğin bir araç çağrısı yapmak ya da son cevabı sunmak) metin üretir. Böylece hem iletişim maliyeti hem de işlem süresi önemli ölçüde azalıyor.

Deneyler, matematik, fen bilimleri ve tıp gibi çeşitli akademik test setlerinde gerçekleştirildi. Hibrit Akıl Yürütme Ajanları, aynı testlerde kullanılan geleneksel LLM'lere kıyasla ortalama %10 daha yüksek bir başarı oranı elde etti. Aynı zamanda yanıt üretiminde kullanılan token sayısı yarıya indi ve model iki kat daha hızlı çalıştı. Bu verimlilik, bulut ortamlarında hem işlem maliyetini hem de enerji tüketimini önemli ölçüde düşürür.

Makalede, bu mimarinin özellikle araç entegrasyonu (örneğin kod yürütme, veri sorgulama veya laboratuvar sonuçlarını yorumlama) gerektiren görevlerde avantaj sağladığı vurgulandı. Model, araç çağrısı yapmadan önce içsel bir değerlendirme yapar ve yalnızca kesin bir eylem gerektiğinde dışa metin üretir. Bu yaklaşım, yapay zekâ sistemlerinin daha güvenli ve kontrol edilebilir olmasına da katkı sunuyor.

Araştırmanın yazarları, bu konseptin hâlihazırda mevcut LLM altyapılarına eklenti olarak uygulanabileceğini ve gelecekte daha karmaşık çok‑aşamalı problem çözme senaryolarında kullanılabileceğini belirtiyor. Çalışma, 2610.18861 numaralı arXiv ön baskısında yayımlandı ve topluluk tarafından geniş çapta tartışılıyor.