Yapay Zeka Ajan Üreticileri Gizlilik Vaat Ediyor — Gerçekleştirebilecekler mi?

OpenAI'nin bu yılki DevDay etkinliğinde CEO Sam Altman, şirketin yeni yapay zeka ajanı Dots'u tanıtırken, 'sınır yapay zekada yeni bir gizlilik standardı belirlemek' istediklerini iddia etti. Etkinlik boyunca OpenAI, Meta'nın baş rakibi Muse'u, kullanıcı verilerini güvende tutmada yetersiz kalmakla üstü kapalı bir şekilde eleştirdi. İlginç bir şekilde, Muse da birkaç ay önce, selefi OpenClaw'a daha güvenli bir alternatif olarak piyasaya sürülmüş ve Meta CEO'su Mark Zuckerberg tarafından 'gizlilik ve güvenlik için sıfırdan inşa edildiği' vaat edilmişti. Bu durum, şirketlerin müşterilerin kişisel verilerini giderek daha fazla topladığı ve siber saldırıların yaygınlaştığı bir çağda, yapay zeka laboratuvarlarının kullanıcıları ajanlarıyla daha fazla bilgi paylaşmaya ikna etmek için gizlilik vaatlerini rekabet aracı olarak kullandığını gösteriyor.

Meta Superintelligence Labs ürün başkanı Nat Friedman, X (eski adıyla Twitter) platformunda şirketin Muse ile hedeflerinin, OpenClaw benzeri ancak güvenli, emniyetli, kullanımı kolay ve milyarlarca kişiye ölçeklenebilir bir şey inşa etmek olduğunu belirtti. Kullanıcı verilerinin, Zuckerberg'in 'tarayıcı, CPU, bellek ve depolama alanına sahip izole bir Linux bilgisayar' olarak tanımladığı güvenli bir sanal makinede (VM) depolandığı ifade edildi. Meta, Muse'u inşa etme çabasının büyük bir kısmının, onu daha güvenli çalıştırmak için 'dikkatli tasarım ve mühendislik' ile ilgili olduğunu açıkladı. Ancak Muse, App Store'da zirveye yerleşip Apptopia verilerine göre haftalar içinde ABD'de 600.000 günlük aktif kullanıcı kazanmasına rağmen, Meta'nın vaatleri eksik kaldı. Veriler diğer kullanıcılardan izole edilse de ve şirket yıl sonunda 'Meta'nın VM'nizdeki verilere erişmesini kriptografik ve doğrulanabilir şekilde önleyecek' bir yöntem sunmayı planlasa da, Meta'nın kendisi verilere hala erişebiliyor. Ayrıca, bir güvenlik araştırmacısı hızla Muse'u ele geçirmeye izin veren bir sıfır gün güvenlik açığı tespit etti (ki bu daha sonra yamalandı). 404 Media'ya göre, lansmandan hemen önce, kullanıcılara Meta'nın kendi dahili veritabanlarına erişim sağlayabilecek birden fazla ciddi güvenlik sorunu ortaya çıktı.

Muse'un ayrıca verileri cömertçe topladığı ve bazı durumlarda dağıttığı da gözlemlendi. Varsayılan olarak Meta'nın kullanıcıların girdiği verileri model eğitimi için kullanmasına izin verse de, bu özellikten vazgeçmek mümkün. Bir Inc. muhabiri, Muse'un özel mesajlarını kendisi istemeden yükleyip okuduğundan şikayet ederken, bir YouTuber ise ajanın adresini Marketplace aracılığıyla bir yabancıya teklif ettiğini belirtti. Her iki durumda da Muse'un görünüşe göre amaçlandığı gibi çalıştığı, ancak kullanıcının ajanın ne kadar ileri gideceğinin farkında olmadığı görüldü. Wired tarafından bildirildiğine göre platform, 'tüm arkadaşlarınızın ve ailenizin detaylı profillerini' oluşturuyor. Bunların hiçbiri Meta'dan beklenmedik olmasa da, Muse'un benzersiz bir şekilde gizlilik veya güvenlik odaklı olduğu fikrini kesinlikle desteklemiyor.

OpenAI, Eylül ayının sonlarında Dots'u duyururken bu durumu fırsat bildi. OpenAI'nin Codex ürün lideri Alexander Embiricos, DevDay sahnesinde OpenAI'nin 'en güvenilir, güvenli ve emniyetli asistana' sahip olmaya odaklandığını söyledi. CEO Sam Altman, insanların bireysel Dots'ları üzerinde nasıl kontrol sağlayabileceklerini, örneğin belirli bir dolar miktarının üzerinde alışveriş yapmaması gibi kurallar koymayı gösterdi. OpenAI'nin uygulama platformu başkanı Glen Coates, 'Meta'dan farklı bir konumdayız, çünkü onların 1,2 milyar kullanıcısı olan bir yapay zeka ürünü yok' diyerek, 'bu tür hataları yapan bir şeyi piyasaya sürmekten kaçınmaya özen göstereceğimizi' ekledi. Altman da DevDay'de gizlilik açısını vurguladı. İşletme müşterilerini çekmek için yöneticiler, şirketlerin verileri üzerinde 'daha güçlü kontrollere' sahip olmalarını ve sıfır veri saklama politikası seçeneklerini (yani OpenAI sunucularında veri depolanmaması) içeren bir çerçeve sundu. Gerçekten de, şimdiye kadar Dots ile çok fazla gizlilik skandalı yaşanmadı; ancak Dots sadece 100 dolar ve üzeri ChatGPT abonelik katmanlarında mevcut olduğundan, muhtemelen daha az kişi kullanıyor. Kullanıcılar, yapay zeka ajanlarının çok fazla kişisel veri gerektirmesi nedeniyle OpenAI'ye kişisel verilerini vermekten hala rahatsızlık duyabilirler.

Elbette, tüm şirketler gizlilik vaatlerinde bulunmuyor. Instinct, başlangıçta veri erişimine sınırsız izin veren aşırı geniş hizmet şartları nedeniyle kamuoyunda eleştirildi; o zamandan beri şirket ayarlamalar yapmış gibi görünüyor. Şimdilik, yapay zeka laboratuvarları, yapay zeka ajanlarının halk arasında yaygınlaşması için üç aşamalı bir yaklaşıma güveniyor gibi görünüyor: onları kullanışlı hale getirmek, 'ürkütücülüğü' dengelemek için sevimli ve silahsızlandırıcı hale getirmek ve gizlilik vaatleri vermek — bu vaatlerin tutmasını umarak.