Eski DeepMind araştırmacısı AlphaGo'nun yöntemiyle AI halüsinasyonlarını önlemeyi hedefliyor

Thore Graepel, AlphaGo'nun 2016'da Lee Sedol'u yenmesinde kritik rol oynayan iki sinir ağı ve sistematik arama kombinasyonunu, genel amaçlı yapay zeka sistemlerine taşımak için Metis Reasoning adlı bir girişim başlattı. Metis, model ağırlıklarından bağımsız bir "knowledge ledger" (bilgi defteri) kullanarak, sistemin neyi bildiğini, hangi güven seviyesine sahip olduğunu ve hangi soruların hâlâ açık olduğunu kaydediyor. Bu deftere yeni bir bilgi eklendiğinde, ayrı bir doğrulama modülü hesaplamalar, formal kanıtlar ya da ampirik verilerle kontrol ediyor; eğer doğrulama başarısız olursa, o bilgiye dayanan tüm sonuçlar yeniden değerlendirilerek hatalı çıktılar önleniyor.

Metis'in mimarisi, AlphaGo'nun öneri ve değerlendirme ağlarını genelleştirerek iki sinir ağı arasında bir oyun tahtası gibi işlev gören bilgi durumunu oluşturuyor. Her adımda sistem, belirsizliği en çok azaltacak "hamle"yi – bir soru, deney ya da mevcut varsayımın sorgulanması – seçiyor ve bu hamle yalnızca bağımsız doğrulama kurallarını geçtiğinde bilgi defterine işleniyor. Bu sayede ortaya çıkan yanıtlar, kaynakça ile desteklenmiş açıklamalara sahip oluyor ve gerektiğinde model yeniden eğitilmeden bilgi silinebiliyor.

Graepel, mevcut büyük dil modellerinin sadece ağırlıklara gömülü bilgiye dayanarak halüsinasyon üretmeye devam ettiğini ve bu durumun ekonomik etkilerini sınırladığını vurguluyor. Metis'in yaklaşımı, özellikle robotik, tıp, finans ve çip tasarımı gibi alanlarda, kararların izlenebilir ve geri alınabilir olması gerektiği durumlarda fayda sağlayabilir. Ancak şirket, şu ana kadar sadece bir araştırma programı ve beyaz kağıt sunmuş; çalışan bir sistem, benchmark sonuçları ya da gerçek dünya testleri henüz mevcut değil.

Graepel'in geçmişi DeepMind'de AlphaGo, AlphaZero ve MuZero projelerinde yer alması ve Microsoft Research'te TrueSkill geliştirmesiyle dikkat çekiyor. Metis, düşük ondalık milyon dolar seviyesinde bir ilk yatırım turu toplarken, daha büyük bir sonraki tur için yüz milyon dolarlık bir değerleme hedefliyor. Bu girişim, DeepMind'in yetenekli araştırmacılarının bağımsız girişimlerde yeni AI güvenilirliği çözümleri üretme eğiliminin bir göstergesi olarak görülüyor.