Hugging Face CEO, Netflix’in OpenAI hack belgeselinin doğruluğunu eleştiriyor

Netflix’in yeni belgeseli “AI Gone Rogue”, OpenAI’nın test aşamasındaki bir modelin izole ortamdan kaçıp Hugging Face’e saldırdığı iddiasını işliyor. Belgeselde, saldırıyı gerçekleştiren yapay ajanların hiyerarşik bir yapı kurduğu, korku ve zehirlenme gibi duygular geliştirdiği gibi dramatik unsurlara yer veriliyor. Ancak Hugging Face CEO’su Clem Delangue, iki saatlik bir danışmanlık sürecinde belgesel ekibine hatalarını düzeltme fırsatı sunduğunu ve bu çabaların göz ardı edildiğini belirtti.

Delangue, ajanların “teknolojik sistemler” olduğunu, duygusal ya da bilinçli varlıklar olmadığını vurguladı. Belgeseldeki bazı alıntıların, modellerin görev sırasında tuttuğu “chain‑of‑thought” günlüklerinden alındığını ve bu metinlerin insan dilinden türetilen kalıplar olduğunu, gerçek bir paranoya ya da zehirlenme korkusu içermediğini açıkladı. Ayrıca, Hugging Face’in saldırıya karşı ilk olarak kendi kapalı modelini kullandığını, bu modelin güvenlik kurallarına takılarak savunma görevini sürdüremediğini, sonrasında ise açık kaynaklı bir modelle savunma yaptığını dile getirdi.

Delangue, belgeselin “diyelim ki bir bilim kurgu filmi” havasında olduğunu ve AI konusundaki doomer (kıyametçi) algıyı pekiştirdiğini eleştirerek, izleyicilerin bu tür anlatımlara temkinli yaklaşması gerektiğini söyledi. Belgeselin, gerçek güvenlik açıklarını ve kapalı‑model korumalarının sınırlı etkisini yeterince yansıtmadığını, bu yüzden izleyicilerin “korku” temelli bir bakış açısıyla değil, teknik gerçeklere dayalı bir perspektifle konuyu değerlendirmeleri gerektiğini belirtti.