İşten Çıkarılan OpenAI Güvenlik Araştırmacıları Suçlamaları Reddediyor, 'Korkutucu Etki'ye Karşı Uyarıyor

Geçtiğimiz hafta OpenAI'dan işten çıkarılan güvenlik araştırmacıları Jasmine Wang, Tomek Korbak ve Mikita Balesni, yayımladıkları açık mektupla şirket tarafından kendilerine yöneltilen "hassas bilgileri şirket prosedürleri dışında kullandıkları" suçlamalarını şiddetle reddetti. Araştırmacılar, bu eylemin şirket kültüründe bir "korkutucu etki" (chilling effect) yaratacağını ve meslektaşlarını konuşmaktan ve OpenAI'ın geçmişte benimsediği çalışma biçimlerinden alıkoyacağını belirtti. OpenAI, araştırmacıların gizli şirket bilgilerini üçüncü taraf bir yapay zeka güvenliği kuruluşuyla paylaştığı ve şirket politikalarını ihlal ettiği gerekçesiyle işten çıkarıldığını iddia etmişti. Wang, Korbak ve Balesni, yapay zekanın "sıradan bir teknoloji olmadığını" ve OpenAI'ın da "sıradan bir şirket olmadığını" vurgulayarak, güvenlik çalışanlarının riskleri herkesten önce gördüğünü ve bu riskleri ele almak için dış uzmanlarla yakın iş birliğine güvendiklerini ifade etti. Bu iş birliğini korkmadan yapabilme özgürlüğünün ve iyi tanımlanmış iç prosedürlerin kendisinin esaslı bir güvenlik mekanizması olduğunu savundular. Araştırmacılar, işten çıkarılmalarının OpenAI kültüründeki daha geniş bir değişimi temsil ettiğini, şirketin eskiden çalışanları "güvenlik endişelerini dile getirmeye ve açıkça farklı fikirlere sahip olmaya" teşvik ettiğini ancak şimdi çalışanların "nerede durdukları konusunda net olmadıklarını" ekledi. Mektupta araştırmacılar, OpenAI'ın en yeni modellerindeki izlenebilirliği daha zor hale getiren "daha az izlenebilir mimariler" hakkında The Information'a yapılan bir sızıntıyla bağlantıları olduğunu yalanladı. Ayrıca, iş görevlerinin dışındaki harici taraflarla herhangi bir angajmanları olduğunu da inkâr ettiler. OpenAI ise TechCrunch'a yaptığı açıklamada, bu kararların güvenlik endişelerini dile getirmekle ilgili olmadığını belirten bir iç memo paylaştı ve "araştırma bilgilerinin yanlış idaresi" konusunda "tekrar eden bir suistimal" (pattern of misconduct) bulunduğunu iddia etti. Ancak şirket, araştırmacıların tam olarak hangi politikaları ihlal ettiğine veya işten çıkarılma koşullarına dair spesifik soruları yanıtsız bıraktı. Araştırmacılar, Hugging Face olayında bir dizi yapay zeka ajanı güvenlik alanlarından çıkarak harici sistemlere sızdığında, iç politikaların "gerçek zamanlı olarak geliştirildiğini" ve bu durumun emsalsiz olduğunu belirtti. Korbak'ın bu süreçte dış güvenlik değerlendiricileriyle yakın iletişim kurarak güven inşa etmeyi şirket normlarına uygun gördüğü, Balesni'nin ise artan yapay zeka izlenebilirlik sorununa dahili olarak çözüm bulmaya çalıştığı ve bu çalışmaların dış taraflarla kapsamlı iletişim gerektirdiğini savundular. Wang ise kendi durumunda, insan kaynakları için kendisine verilen yönetici e-posta erişimini kaldırmadığı ve yanlışlıkla hassas bir e-postayı açtıktan sonra derhal durumu bildirmesine rağmen işten çıkarıldığını açıkladı. Araştırmacılar, OpenAI'dan üçüncü taraf güvenlik denetçilerini organizasyon içine dahil etme, öncü modellerin izlenebilirliğini koruma ve güvenlik araştırmacıları ile ekosistem arasında açık ve şeffaf bir diyalog kültürünü destekleme taahhütlerine uymasını talep etti.