Google, kendini geliştiren yapay zekânın henüz yakın olmadığını söylüyor

Google DeepMind mühendislerinden Haydn Belfield, şirketin iç araştırmalarında kendini geliştiren yapay zekânın (self‑improving AI) henüz gerçekleşmediğini vurguladı. AI, şu anda üretim kodunun %75'ini yazabiliyor ancak yapılan kod değişikliklerinin %88'i hâlâ insan gözetimi ve incelemesi gerektiriyor; her değişiklik gönderilmeden önce bir insan tarafından onaylanıyor. Tamamen AI'ye devredilen kod değişikliklerinin oranı ise %7,5'ten %11,9'a yükselmiş durumda.

Belfield, 1.389 iç Argon ajan çalışması üzerinden yapılan analizlerde, görev karmaşıklığı arttıkça insan müdahalesi olmadan başarı oranının keskin bir şekilde düştüğünü gösterdi. İnsanlar hâlâ yaratıcı araştırma, yeni deney tasarımı, ince eğitim istikrarsızlıklarının teşhisi ve uzun vadeli planlama gibi alanlarda vazgeçilmez. Bu bulgular, 12 kıdemli DeepMind araştırmacısının anketiyle de desteklenerek, otomasyonun iyi tanımlanmış ve doğrulanabilir görevlerde yüksek, açık uçlu bilimsel fikir üretiminde ise düşük olduğunu ortaya koydu.

DeepMind'in kendi iç benchmark'ı RE‑Bench, 74 gerçek dünya makine öğrenimi mühendisliği görevini kapsıyor. Bu benchmark'ta Argon ajanı görevlerin yaklaşık %50'sini çözerken, Gemini 3.7 Flash sadece %27 oranında başarılı oldu. Bu, Gemini 3.7 Flash'tan çok daha yüksek bir performans olsa da, tam otomasyon için hâlâ uzakta olduklarını gösteriyor.

Google, Gemini modellerinin yeteneklerini izlemek için 123 model ve 92 benchmark'ı kapsayan Genel Yetenek Endeksi (GCI) geliştirdi. GCI v1, Gemini yeteneklerinin ayda ortalama 0,1 puan artışla istikrarlı bir şekilde büyüdüğünü, ancak AI‑kaynaklı bir hızlanma göstermediğini ortaya koydu. Gemini 4 Argon'un trendin biraz üzerindeki performansı, daha fazla hesaplama ve organizasyonel yatırımın bir sonucu olarak değerlendirildi, AI‑özerk bir ivme değil. Şirket, AI‑kaynaklı araştırma otomasyon riskini düşük olarak sınıflandırıyor ve gelecekteki ivmeyi izlemek için ölçüm altyapısını güçlendirmeye devam ediyor.

Bu bulgular, Geoffrey Hinton, Yoshua Bengio ve OpenAI araştırmacısı Jakub Pachocki gibi 20'den fazla uzmanın "zeka patlaması" ihtimaline dair uyarılarıyla çelişiyor. Bu akademisyenler, AI sistemlerinin birkaç yıl içinde tüm AI araştırma ve geliştirme süreçlerini otomatikleştirerek ilerlemeyi aylara sıkıştırabileceğini savunuyor.